Izvor: SrbijaDanas.com, 06.Dec.2021, 09:04
PRETE LI NAM SCENE KAO IZ TERMINATORA? Mašine koje su inteligentnije od nas pojaviće se u OVOM VEKU, stvaraoci ZABRINUTI
Zabrinut da će razvoj AI nadmašiti ljudsku sposobnost da njome upravljamo na bezbedan način, Mask je predložio regulisanje njenog razvoja.
Naučnik koji je napisao vodeći priručnik o veštačkoj inteligenciji (AI) rekao je da su stručnjaci "uplašeni" sopstvenim uspesima u ovom polju, upoređujući napredak AI sa razvojem atomske bombe.
Profesor Stjuart Rasel, osnivač Centra za veštačku inteligenciju kompatibilnu s ljudima na Univerzitetu Kalifornija >> Pročitaj celu vest na sajtu SrbijaDanas.com << u Berkliju, istakao je da većina stručnjaka veruje da će mašine inteligentije od ljudi biti razvijene u ovom veku. On je pozvao na međunarodne ugovore kako bi se regulisao razvoj ove tehnologije.
- AI zajednica nije se još prilagodila činjenici da mi sada počinjemo da imamo zaista velik uticaj na stvarni svet. To prosto nije bio slučaj za većinu istorije u toj oblasti - bili smo prosto u laboratoriji, razvijali stvari, pokušavali da učinimo da one funkcionišu, uglavnom neuspešno... Stoga pitanje stvarnog uticaja na svet uopšte nije bilo relevantno. I moramo da odrastemo prilično brzo da to stignemo - izjavio je Rasel za Gardijan.
Veštačka inteligencija je u osnovi mnogih aspekata modernog života, od pretraživača do bankarstva, a napredak u prepoznavanju slika i mašinskog prevoda su među ključnim postignućima poslednjih godina.
Rasel ističe da je potreban hitan rad kako bi se obezbedilo da ljudi imaju kontrolu kako se razvija superinteligentna veštačka inteligencija.
- AI je dizajnirana sa jednom posebnom metodologijom i svojevrsnim generalnim pristupom. A mi nismo dovoljno oprezni da koristimo tu vrstu sistema u komplikovanim uslovima stvarnog sveta – upozorio je.
Na primer, navodi Gardijan, zatražiti od AI da izleči rak što je pre moguće može biti opasno.
- Verovatno bi našla način da izazove tumore u čitavoj ljudskoj populaciji kako bi mogla paralelno da sprovede milione eksperimenata koristeći sve nas kao zamorčiće - kaže Rasel.
To je zato što je to rešenje za cilj koji smo joj dali – samo smo zaboravili da preciziramo da ne može upotrebiti ljude kao zamorčiće i da ne može da koristi čitav svetski BDP da sprovodi svoje eksperimente, da ne može da radi ovo ili ono.
Rasel je ukazao da i dalje postoji veliki jaz između današnje AI i onog što je predstavljeno u filmovima, poput "Ex Machina", ali da je budućnost sa mašinama koje su inteligentnije od ljudi verovatna.
- Mislim da se brojke rangiraju od 10 godina, kao najoptimističnije, do nekoliko stotina godina (za razvoj takve AI). Ali, većina istraživača veštačke inteligencije bi rekla da će se to dogoditi u ovom veku - istakao je.
Jedna zabrinutost je da mašinama neće trebati da budu inteligentnije od ljudi u svim stvarima da postanu ozbiljan rizik.
- To je nešto što se sada odvija. Ako pogledate društvene mreže i algoritme koji biraju šta će ljudi čitati i gledati, one imaju veliku kontrolu nad našim kognitivnim unosom - objašnjava Rasel.
Rezultat je da algoritmi manipulišu korisnicima, ispirajući im mozak kako bi njihovo ponašanje postalo predvidljivije kad je u pitanju izbor njihove angažovanosti, povećavajući tako prihode zasnovane na klikovima.
Da li su istraživači veštačke inteligencije uplašeni sopstvenim uspehom?
- Da, mislim da smo sve uplašeniji - kaže Rasel.
- Ovo me pomalo podseća na ono što se desilo u fizici sa fizičarima koji su znali da postoji atomska energija, mogli su da izmere mase različitih atoma i shvate koliko mnogo energije može da se osloboditi ako uradite konverziju između različitih vrsta atoma – naveo je on, dodajući da su stručnjaci uvek isticali da je ta ideja teoretska. A onda se to dogodilo i nisu bili spremni za to. Upotreba AI u vojsci – poput malog protivpešadijskog oružja – je predmet posebne zabrinutosti. To su ona kojima je lako promeniti veličinu, što znači da možete staviti milion njih u jedan kamion, otvoriti ga i oni će otići i izbrisati čitav grad - navodi Rasel.
On veruje da budućnost AI leži u razvoju mašina koje znaju da je pravi cilj neizvestan kao i naše sklonosti, što znači da moraju sve odluke da provere sa ljudima, poput batlera. Ali ova ideja je kompleksna, posebno zato što različiti ljudi imaju različite – a ponekad i suprotstavljene sklonosti – a te sklonosti nisu fiksne.
Rasel je pozvao na mere, uključujući kodeks ponašanja za istraživače, zakone i sporazume koji bi ozbebedili bezbednost sistema AI u upotrebi i obuku istraživača kako bi se obezbedilo da veštačka inteligencija ne bude podložna problemima poput rasne pristrasnosti.
On je takođe ukazao da zakon Evropske unije (predložen u aprilu) koji bi zabranio da mašine lažno predstavljaju ljude, trebalo usvojiti širom sveta.
- Napredak u veštačkoj inteligenciji je nešto za šta će trebati vremena da se desi, ali to je ne čini naučnom fantastikom - zaključio je.
Rasel nije jedini stručnjak koji je upozorio na razvoj veštačke inteligencije. Američki milijarder Ilon Mask, koji se i sam bavi njenim razvojem, već godinama upozorava čovečanstvo na opasnosti koje to nosi sa sobom.
- Veoma sam blizu napredne veštačke inteligencije i nasmrt me plaši. Sposobna je za mnogo više nego što bilo ko zna i stopa razvoja je eksponencionalna - rekao je Mask 2018, dodajući da je AI "opasnija od nuklearnih bombi".
- Moramo se osigurati da napredak digitalne super inteligencije bude simbiotičan sa čovečanstvom. Mislim da je to jedinstvena najveća egzistencijalna kriza sa kojom se suočavamo - istakao je tada Mask.
On je i ranije upozoravao na "demonsku" veštačku inteligenciju, a smatra da je jedini način da ljudi prežive "revoluciju AI" da se spoje sa mašinama – ili rizikuju da postanu nepotrebni.
Maskova kompanija "Neuralink" je unazad razvijala "moždani čip" za povezivanje sa kompjuterom koji bi ljude rešio raznih bolesti.
Od tada je čip ugrađen u mozak svinje i, kasnije, majmuna, a milijarder je u januaru iznenadio svet kad je najavio da će ljudi imati senzore u mozgu za manje od godinu dana.
Nastavak na SrbijaDanas.com...
