Izvor: Radio 021, 02.Mar.2018, 20:27 (ažurirano 02.Apr.2020.)
Veštačka inteligencija može da postane žrtva predrasuda
Veštačka inteligencija bi mogla da potpomogne opstanak predrasuda, uključujući i segregaciju ljudi po polu, ako se ne bude oprezno postupalo s podacima koji se koriste za nju, upozorili su stručnjaci na Svetskom kongresu o mobilnoj tehnologiji (MWC) u Barseloni.
"Svi smo veoma svesni da će mašine preuzeti predrasude onih koji sastavljaju programe za njih", upozorila je Ema MekGigan, direktorka tehnologije u konsultantskoj firmi "Aksenčer" (Accenture), tokom >> Pročitaj celu vest na sajtu Radio 021 << konferencije o promovisanju uloge žena u novim tehnologijama.
Predsednica mobilnog operatera Indije, "Tata komunikejšns" (Tata Communications) Džuli Vuds-Mos upozorila je da se i predrasude unose u veštačku inteligenciju.
"Za veštačku inteligenciju (AI), potrebna je ogromna količinu podataka što zahteva veliko ljudsko učešće, te se i predrasude unose u AI", objasnila je ona.
Dodaje da moramo da budemo veoma pažljivi i da ne doprinosimo da i AI postane žrtva predrasuda, pozivajući stručnjake da nađu način da predrasude identifikuju kao "svesne". Kao primer navela je šemu programiranja koje profesiju lekara povezuju s muškarcima, a profesiju medicinskog tehničara sa ženama.
Ona je kritikovala i to što većina kompjuterskih "ličnih asistenata" ima ženski glas. Ti programi već koriste elemente veštačke inteligencije, analizirajući razgovore svog korisnika, kako bi mogli da odgovore na pitanja ili izvrše naloge.
Jedan od programa za kompjutere i mobilne telefone, koji je razvio trgovinski gigant "Amazon", pod nazivom "Aleksa" (Alexa) nedavno se povinovao pritisku pokreta "Mi tu" (MeToo) koji na društvenim mrežama podstiče žene da prijave ako su bile žrtve seksualnog zlostavljanja.
"Pre, ako joj je neko govorio užasne seksualne uvrede, 'Aleksa' je odgovarala: 'Hvala za vaš komentar', a sada na to kaže: 'Ne odgovoram na to'", rekla je ona.
Ipak, postoji "značajan broj inovacija" za tehničko rešenje tih problema, rekla je Vuds-Mos.
"Nažalost, više od 90 odsto stručnjaka za IT koji razvijaju tehnologiju veštačku inteligenciju su muškarci", rekla je Liza Vang, osnivačica platforme "Šivorks" (SheWorx) za finansiranje preduzetnica.
Debata u Barseloni dolazi posle niza sličnih o seksističkim ili rasnim "predrasudama" u algoritmima koji pokreću mnoge aplikacije.
Američki Savez za građanske slobode je 2017. pokrenuo inicijativu za borbu protiv predrasuda skrivenih u algoritmima i drugde u okvirima AI, pošto je otkriven kompjuterski program korišćen pri zapošljavanju koji je sistematski diskriminisao neke profile ljudi.
Po izveštaju Svetskog ekonomskog foruma iz 2016. o zapošljavanju, samo 19 odsto zaposlenih u industriji mobilne tehnologije su žene.
Autor: Beta/ AFP
