STRAH OD DIPFEJKA: Sve brojniji pokret da se naruši informatička sfera
Laganje nikada nije izgledalo tako dobro. Postoji zabrinutost da će globalno rasti pokret koji će narušavati kvalitet informacijske sfere i narušiti kvalitet diskursa koji je potreban u demokratiji. Ovo je izjavila Eilin Donahoe, članica Transatlantske komisije za izborni integritet.
Ona je rekla da su "deepfakes" potencijalno sledeća generacija dezinformacija.
Političari u Kaliforniji toliko su zabrinuti zbog rizika od "deepfakea" uoči izbora 2020. da su u oktobru 2019. godine usvojili zakon kojim zabranjuju distribuciju "materijalno obmanjujućih audio ili vizuelnih medija" u roku od 60 dana pre izbora, piše Wired.
Međutim, političko uplitanje kroz deepfakes još se nije dogodilo. Većina "deepfakeova" je foksuirana na pornografsku industriju, bez pristanka ljudi u videozapisima. To ne znači da nema drugih potencijalno malicioznih primena, uključujući lažiranje kriminalnih dokaza, prevara ili ucena. Druga mogućnost, da se proglašavaju deepfakeom sadržaji koji jesu istinite je još jedna stvar koja izaziva zabrinutost.
NOVE INFORMACIJE: Poznate opcije za skladišni prostor i boje HUAWEI NOVA 6 telefona
IZMEĐU ROBOTA I ČOVEKA: Pogledajte koja zemlja želi da približi vojnike kiborzima
Iako kalifornijski zakon protiv upotrebe "deepfakea" ima više nedostataka, jedan od njih postavlja važno pitanje: ko je odgovoran za dokazivanje da su audio ili video snimci lažni?
Istraživači širom sveta rade na izradi alata koji će im pomoći da se to postigne, pri čemu će se jedna vrsta veštačke inteligencije boriti protiv druge vrste veštačke inteligencije. Poenta deepfakea je da su dovoljno ubedljivi da bi zavarali ljudsku publiku. Kako tehnologija za stvaranje deepfakea postaje sve efikasnija i sve lakše dostupna osobama s lošim namerama, stvaranje jednako moćne tehnologije za otkrivanje i analizu deepfakea postaje će ključno borbeno polje istine.
- Zvučni i vizuelni deepfake koji se dobro urade su teški za otkrivanje - rekao je Ragavan Thurairatnam. Thurairatnam je suosnivač i čelnik za mašinsko učenje za Dessu, start-up kompaniju koja je izgradila alat za lažiranje Joe Roganovog glasa za demonstraciju sposobnosti audio deepfaka. Kompanija trenutno radi na razvoju veštačke inteligencije za otkrivanje zvučnih deepfakea.
- Ako probamo tradicionalni softverski zasnovan pristup, bilo bi vrlo teško smisliti način da se detektuju deepfakeovi. Deepfake tehnologija će se stalno menjati i tradicionalni softver moraće se svaki put ručno prepisivati. Umetna inteligencija, s druge strane, može sama naučiti da otkriva deepfake sve dok ima dovoljno podataka. Osim toga, može se prilagoditi novim tehnikama deepfakea u isto vrijeme dok se one pojavljuju čak i kada ljudskim očima bude teško da je otkriju - objašnjava Thurairatnam.
Međutim, modeli za mašinsko učenje za obuku zahtevaju mnogo podataka. Nedostatak podataka o obuci bila je značajna prepreka istraživačima koji pokušavaju da naprave efikasne sisteme za otkrivanje deepfakea. Nedavni izveštaj Deeptracea, osnovanog u Amsterdamu, čiji je cilj suzbijanje deepfakea, identifikovao je 14.678 deepfake videozapisa putem interneta, od kojih su većina pornografija. Iako je stopa porasta broja identifikovanih video zapisa gotovo udvostručena u odnosu na prethodni izveštaj u decembru 2018., nejasno je da li je to možda zbog boljeg otkrivanja Deeptracea, u apsolutnom smislu to je još uvek relativno mali broj koji bi algoritmi veštačke inteligencije mogli da koriste za dalje učenje.
To je strukturna prednost na strani onih koji proizvode deepfakea. Dok dobrim momcima treba ogroman broj deepfakeova kako bi pronašli obrasce, falsifikatori će možda imati samo jedan video da postave na pravo mesto u pravo vreme kako bi postigli svoj cilj.
Iako je broj deepfakea prilično mali, pretnja se shvata ozbiljno. Da bi pomogli u rešavanju problema nedostatka podataka za mašinsko učenje, Facebook, Google, Amazon Web Services i Microsoft nedavno su se okupili da bi najavili Deepfake Detection Challenge (Izazov otkrivanja deepfakea).
Izazov, koji bi trebao početi sledećeg meseca, predstaviće posebno kreirani skup deepfakea napravljenih uz pomoć plaćenih glumaca, a koji će se koristiti kao podaci za obuku za svoje algoritamske modele. Razvijanje efikasnih sistema za otkrivanje deepfakea očigledno je stvar opšteg dobra, ali nije u potpunosti čin altruizma tehnoloških divova, koji će verojatno biti na prvim linijama sprovođenja zakona poput kalifornijskog zakona o zabrani deepfakea i zato imaju snažan podsticaj za pronalaženje praktičnih mehanizama otkrivanja.