Izvor: B92, 02.Sep.2019, 21:11   (ažurirano 02.Apr.2020.)

"Opasna veštačka“ inteligencija može da piše lažne vesti

Sistem veštačke inteligencije koji generiše realistične priče, pesme i članke apdejtovan je tako da je, prema tvrdnjama nekih, sada skoro jednako dobar kao i pisac ljudskog porekla.

Generator teksta koji je napravila istraživačka firma OpenAI prvobitno je smatran "suviše opasnim" da bi se pustio u javnost zbog potencijalne zloupotrebe.

Ali sada je objavljena nova, moćnija verzija istog sistema - koji može da se koristi da pravi lažne vesti ili uvredljivi spem >> Pročitaj celu vest na sajtu B92 << na društvenim mrežama.

BBC je, zajedno sa nekim stručnjacima za veštačku inteligenciju, odlučio da ga isproba.

Model GPT-2 obučen je na uzorku podataka od osam miliona internet stranica, a može da se prilagodi stilu i sadržaju prvobitnog teksta koji mu se ponudi.

Može da završi Šekspirov sonet, baš kao i da piše članke i epitete.

BBC je odlučio da isproba sistem ubacivši prvih nekoliko rečenice jednog nedavnog članka, koji odgovarajuće govori o veštačkoj inteligenciji.

Krenuli smo od prve rečenice pravog članka:

Kineski pretraživač Sogou stvara dvojnike veštačke inteligencije koji čitaju popularne romane glasom njihovih autora.

Evo šta je smislio generator teksta da bi ga dovršio:

Prema istraživačima, ovaj metod čitanja nije samo produkt čitača Amazonovog Kindla. Korisnici Android uređaja takođe predstavljaju značajno tržište za lažno čitanje. Ima nekoliko teorija koje objašnjavaju ovo.

Kao prvo, uređaj u ruci korisnika razlikuje se od tableta ili kompjutera na kojima oni čitaju. Kao drugo, uređajem koji se koristi da bi se s njim pristupilo internetu može se na neki način manipulisati. Treći razlog je da korisnik može prosto da kopira i prenese sadržaj direktno u svoje virtuelne karaktere.

Međutim, drugo objašnjenje jeste da uređaj uopšte nema mogućnost prepoznavanja glasova. Ukoliko je to slučaj, onda je prepoznavanje glasova naprednije od Guglove prevodilačke mašine. Kao takvi, ovi korisnici su prevareni da misle da čitaju pravog autora - knjiga je pravljena tako da zvuči autentično čim počnu da je čitaju.

Sad kliknite ovde da biste pročitali pravi članak i uporedili dva teksta.

Noel Šarki, profesor kompjuterskih nauka sa Univerziteta u Šefildu, sproveo je vlastite testove generatora i nije bio previše impresioniran.

Ovaj "izrazito distopijski odraz našeg društva" bio je lekcija da će svaki sistem veštačke inteligenciji iskazati pristrasnost koju pronađe u podacima za obuku, rekao je

"Na osnovu mojih kratkih eksperimenata sa modelom, postaje prilično jasno da su veliki deo podataka na osnovu kojih je obučavan bile vesti sa interneta."

"Odluka OpenAI-ja da objavi poboljšanu verziju GPT-2, svog generatora za predviđanje teksta, može isprva da deluje kontroverzno", dodaje on.

"Ali jednom kad se splasne prvobitna (i razumljiva) zabrinutost, ono što preostaje je suštinski ključna rasprava u našem društvu, a to je da moramo da razmišljamo o svetu u kom je granicu između sadržaja koji generiše čovek i sadržaja koji generiše kompjuter sve teže razlikovati", dodao je on.

OpenAI, koji je isprva bio neprofitna kompanija, osnovan je 2015. godine sa ciljem da promoviše i razvija veštačku inteligenciju tako da od toga ima korist čitavo čovečanstvo.

Ilon Mask je bio jedan od prvobitnih osnivača, ali već neko vreme nema nikakve veze sa kompanijom.

Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

Izvor: BBC News na srpskom

Nastavak na B92...