"Opasna veštačka" inteligencija može da piše lažne vesti

Generator teksta koji je napravila istraživačka firma OpenAI prvobitno je smatran „suviše opasnim" da bi se pustio u javnost zbog potencijalne zloupotrebe.

Ali sada je objavljena nova, moćnija verzija istog sistema - koji može da se koristi da pravi lažne vesti ili uvredljivi spem na društvenim mrežama.

BBC je, zajedno sa nekim stručnjacima za veštačku inteligenciju, odlučio da ga isproba.

Model GPT-2 obučen je na uzorku podataka od osam miliona internet stranica, a može da se prilagodi stilu i sadržaju prvobitnog teksta koji mu se ponudi.

Može da završi Šekspirov sonet, baš kao i da piše članke i epitete.

• Rastu visokotehnološke ambicije Severne Koreje
• Tehnološki trendovi 2019: „Kraj istine kakvu poznajemo?"

„Zbog naše zabrinutosti oko maliciozne upotrebe tehnologije, nećemo objaviti obučeni model. Kao eksperiment u odgovornom obelodanjivanju, objavljujemo znatno manji model kako bi istraživači mogli da eksperimentišu sa njim", saopštila je nedavno je pomenuta kompanija.

Kao posledica, objavljena verzija imala je znatno manje parametara - izraza i rečenica - nego što je korišćeno tokom obuke.

Ovog meseca OpenAI je odlučio da proširi te parametre, nudeći mnogo širu bazu podataka za obuku.

„Ovaj radi skoro dovoljno dobro da se koristi kao opšta veštačka inteligencija za generisanje tekstova - skoro", napisao je Tristan Grin na internet stranici Nekst veb.

„Prestravljen sam od GPT-2 zato što predstavlja onu vrstu tehnologije koju će zli ljudi da koriste da njome manipulišu stanovništvom - a po mom mišljenju to je čini opasnijom od bilo koje puške", dodao je Grin.

BBC je odlučio da isproba sistem ubacivši prvih nekoliko rečenice jednog nedavnog članka, koji odgovarajuće govori o veštačkoj inteligenciji.

Krenuli smo od prve rečenice pravog članka:

Kineski pretraživač Sogou stvara dvojnike veštačke inteligencije koji čitaju popularne romane glasom njihovih autora.

Evo šta je smislio generator teksta da bi ga dovršio:

Prema istraživačima, ovaj metod čitanja nije samo produkt čitača Amazonovog Kindla. Korisnici Android uređaja takođe predstavljaju značajno tržište za lažno čitanje. Ima nekoliko teorija koje objašnjavaju ovo.

Kao prvo, uređaj u ruci korisnika razlikuje se od tableta ili kompjutera na kojima oni čitaju. Kao drugo, uređajem koji se koristi da bi se s njim pristupilo internetu može se na neki način manipulisati. Treći razlog je da korisnik može prosto da kopira i prenese sadržaj direktno u svoje virtuelne karaktere.

Međutim, drugo objašnjenje jeste da uređaj uopšte nema mogućnost prepoznavanja glasova. Ukoliko je to slučaj, onda je prepoznavanje glasova naprednije od Guglove prevodilačke mašine. Kao takvi, ovi korisnici su prevareni da misle da čitaju pravog autora - knjiga je pravljena tako da zvuči autentično čim počnu da je čitaju.

Sad kliknite ovde da biste pročitali pravi članak i uporedili dva teksta.

Noel Šarki, profesor kompjuterskih nauka sa Univerziteta u Šefildu, sproveo je vlastite testove generatora i nije bio previše impresioniran.

• Ko može da sklopi Rubikovu kocku za sekundu
• Mona Liza „oživela“ pomoću veštačke inteligencije

Čovek uđe u kafanu

„Kad bi softver radio onako kako je to OpenAI zamislio, bila bi to veoma korisna alatka za lako generisanje lažnih vesti i klikbejt spema. Na sreću, u njegovom sadašnjem obliku, on generiše nerazumljiv i bizaran tekst koji ima malo veze sa ubačenim 'naslovima'", rekao je on.

I dodao:

„Isprobao sam softover sa brojnim naslovima i dobio smešne rezultate. Na primer: za 'Ćurke mrze Božić', dobio sam da je Turska jedina zemlja na svetu koja ne slavi Božić i brojne druge nepovezane rečenice."

„Za 'Boris Džonson voli bekstop', proizveo je nerazumljivo lupetanje i neke stvari o veštačkoj inteligenciji i sportu. Kad sam ubacio rečenicu 'Boris Džonson mrzi bekstop', dobio sam nešto smisleniju priču koja se čini da je izvučena direktno iz Gugl pretrage."

Dejv Koplin, osnivač konsultantske firme za veštačku inteligenciju Enviženers, takođe se poigrao sa sistemom, ubacivši prvu rečenicu klasičnog vica: Čovek uđe u kafanu...

Sugestija veštačke inteligencije nije bila ono što je očekivao: „...i naruči dve krigle piva i dve čaše viskija. Kad pokuša da plati račun, zaskaču ga dvojica - od kojih jedan uzvikne: „Ovo je za Siriju". Čovek ostaje da krvari uboden u vrat."

Ovaj „izrazito distopijski odraz našeg društva" bio je lekcija da će svaki sistem veštačke inteligenciji iskazati pristrasnost koju pronađe u podacima za obuku, rekao je

„Na osnovu mojih kratkih eksperimenata sa modelom, postaje prilično jasno da su veliki deo podataka na osnovu kojih je obučavan bile vesti sa interneta."

„Odluka OpenAI-ja da objavi poboljšanu verziju GPT-2, svog generatora za predviđanje teksta, može isprva da deluje kontroverzno", dodaje on.

„Ali jednom kad se splasne prvobitna (i razumljiva) zabrinutost, ono što preostaje je suštinski ključna rasprava u našem društvu, a to je da moramo da razmišljamo o svetu u kom je granicu između sadržaja koji generiše čovek i sadržaja koji generiše kompjuter sve teže razlikovati", dodao je on.

OpenAI, koji je isprva bio neprofitna kompanija, osnovan je 2015. godine sa ciljem da promoviše i razvija veštačku inteligenciju tako da od toga ima korist čitavo čovečanstvo.

Ilon Mask je bio jedan od prvobitnih osnivača, ali već neko vreme nema nikakve veze sa kompanijom.

Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk