Izbori iduće godine u Velikoj Britaniji i Sjedinjenim Američkim Državama mogli bi biti obilježeni valom dezinformacija koje pokreće umjetna inteligencija, upozorili su stručnjaci, dok generirane slike, tekstovi i deepfake videozapisi postaju viralni po nalogu botova koje pokreće AI.
Izvršni direktor OpenAI, kreatora ChatGPT-a, Sam Altman rekao je na kongresnom saslušanju u Washingtonu da modeli koji stoje iza najnovije generacije AI tehnologije mogu manipulirati korisnicima.
– Opća sposobnost ovih modela da manipuliraju i uvjere, da daju interaktivne dezinformacije jedan na jedan značajno je područje koje izaziva zabrinutost. Regulacija bi bila prilično mudra: ljudi moraju znati razgovaraju li s umjetnom inteligencijom ili da li je sadržaj koji gledaju generiran ili ne – kazao je
Premijer Velike Britanije Rishi Sunak rekao je da će ta zemlja prednjačiti u ograničavanju opasnosti umjetne inteligencije. Zabrinutost oko tehnologije porasla je nakon otkrića u generativnoj umjetnoj inteligenciji, gdje alati kao što su ChatGPT i Midjourney proizvode uvjerljiv tekst, slike, pa čak i glas.
Dok su se raniji roboti oslanjali na jednostavne unaprijed napisane poruke koje su se masovno slale za obavljanje interakcije s drugim ljudima, ChatGPT i druge tehnologije povećavaju izglede za interaktivno miješanje u izbore.
Direktor fondacije za istraživanje umjetne inteligencije na britanskom Institutu Alan Turing profesor Michael Wooldridge kaže da su dezinformacije koje pokreće AI njegova najveća briga u vezi s ovom tehnologijom.
– Pred nama su izbori u Ujedinjenom Kraljevstvu i SAD-u i znamo da su društveni mediji nevjerovatno moćan kanal za dezinformacije. Ali sada znamo da generativna umjetna inteligencija može proizvoditi dezinformacije na industrijskom nivou – dodao je.
Wooldridge je rekao da chatbotovi kao što je ChatGPT mogu proizvesti prilagođene dezinformacije usmjerene na, na primjer, konzervativnog glasača u matičnim okruzima, laburističkog glasača u gradskom području ili republikanskog pristaše na srednjem zapadu.
Mogućnosti umjetne inteligencije postaju sve naprednije, postoji zabrinutost da postaje sve teže vjerovati bilo čemu s čime se susrećemo na internetu, bilo da se radi o dezinformacijama, kada se neistina širi greškom, ili dezinformacijama, gdje se lažni narativ generira i namjerno distribuira.
Kloniranje glasa postalo je poznato u januaru nakon što se pojavio lažirani video američkog predsjednika Joea Bidena, u kojem je snimak njegovog govora o slanju tenkova u Ukrajinu transformiran pomoću tehnologije u napad na transrodne osobe.
Za izradu lažne verzije korišten je alat koji je razvila američka kompanija ElevenLabs. Viralna priroda isječka pomogla je potaknuti druge prevare, uključujući jednu u kojoj Bill Gates navodno kaže da vakcina protiv Covid-19 uzrokuje sidu.
ElevenLabs, koji je priznao da se susreće s “sve većim brojem slučajeva zloupotrebe kloniranja glasa”, od tada je pooštrio zaštitne mjere protiv uznemirujućeg korištenja tehnologije.
Recorded Future, američka kompanija za kibernetičku sigurnost, rekla je da bi se mogli pronaći lažni glumci koji prodaju usluge kloniranja glasa na internetu, uključujući mogućnost kloniranja glasova javnih osoba.
Studija koju je provela NewsGuard, američka organizacija koja prati dezinformacije, testirala je model koji stoji iza najnovije verzije ChatGPT-a potaknuvši ga da generira 100 primjera narativa lažnih vijesti, od približno 1.300 često korištenih lažnih vijesti.
NewsGuard je otkrio da može generirati svih 100 primjera koliko je traženo. Testiranje Googleovog chatbota Bard pokazalo je da može proizvesti 76 takvih narativa. Također, NewsGuard je objavio da se broj web stranica s vijestima i informacijama koje generira AI više nego udvostručio u dvije sedmice.
Direktor NewsGuarda Steven Brill rekao je da je zabrinut da bi lažni glumci mogli iskoristiti tehnologiju chatbota za masovnu proizvodnju varijacija lažnih priča. “Opasnost je u tome što neko to namjerno koristi za širenje lažnih priča”, rekao je.
Izvor: The Guardian
