Foto: Digital Information World

Iako fake news postoji od kada postoji čovječanstvo, ovaj pojam ponovo je došao na veliku scenu 2016. godine tokom predizborne kampanje Donalda Trumpa za predsjednika SAD-a. Naime, u tom periodu pojavile su se čitave farme fake portala u Velesu (Makedonija), koji su objavljivali izmišljene sadržaje s ciljem privlačenja pažnje i ostvarivanja profita, dok su političke posljedice bile tek svojevrsni nusprodukt. Prva vijest kojom je, takoreći, započela era savremenih fake sadržaja je da je papa Franjo podržao Donalda Trumpa za predsjednika SAD-a, što je uznemirilo biračko tijelo u SAD-u. Iako je sam papa demantovao ovu vijest, ona je nastavila da živi u glavama onih koji su odlučili vjerovati u njenu vjerodostojnost.

Euforija oko izbora Donalda Trumpa kao i pojave fake newsa se nije ni stišala, a stižu novi izazovi prouzrokovani, prije svega, sve većim razvojem tehnologije. U pitanju je deepfake, odnosno, videoobjave koje nastaju uz pomoć vještačke inteligencije i organizovane su kao vjerodostojna, ali izmišljena audio/video sinhornizacija. Porijeklo naziva deepfake vodi od softvera „deep learning“, koji predstavlja vještačku inteligenciju na bazi koje se kreiraju deepfake sadržaji. Dakle, inteligentni supersoftveri se koriste kako bi se napravili lažni video i audio sadržaj koji gotovo u potpunosti vjerodostojno oslikavaju stvarnost.

Iako fake news postoji od kada postoji čovječanstvo, ovaj pojam ponovo je došao na veliku scenu 2016. godine tokom predizborne kampanje Donalda Trumpa za predsjednika SAD-a. Naime, u tom periodu pojavile su se čitave farme fake portala u Velesu (Makedonija), koji su objavljivali izmišljene sadržaje s ciljem privlačenja pažnje i ostvarivanja profita, dok su političke posljedice bile tek svojevrsni nusprodukt. Prva vijest kojom je, takoreći, započela era savremenih fake sadržaja je da je papa Franjo podržao Donalda Trumpa za predsjednika SAD-a, što je uznemirilo biračko tijelo u SAD-u. Iako je sam papa demantovao ovu vijest, ona je nastavila da živi u glavama onih koji su odlučili vjerovati u njenu vjerodostojnost.

Euforija oko izbora Donalda Trumpa kao i pojave fake newsa se nije ni stišala, a stižu novi izazovi prouzrokovani, prije svega, sve većim razvojem tehnologije. U pitanju je deepfake, odnosno, videoobjave koje nastaju uz pomoć vještačke inteligencije i organizovane su kao vjerodostojna, ali izmišljena audio/video sinhornizacija. Porijeklo naziva deepfake vodi od softvera „deep learning“, koji predstavlja vještačku inteligenciju na bazi koje se kreiraju deepfake sadržaji. Dakle, inteligentni supersoftveri se koriste kako bi se napravili lažni video i audio sadržaj koji gotovo u potpunosti vjerodostojno oslikavaju stvarnost.

Početak razvoja deepfake sadržaja se veže za zabavu. Odnosno, glavni akteri ovakvih hibridnih formi su bili glumci i muzičari. Trenutno su vrlo aktuelni klipovi u kojima se poznati holivudski glumac Nikolas Cage pojavljuje kao glavni lik filmova u kojima uopšte nije glumio. U tom smislu jedan od najpopularnijih YouTube kanala koji objavljuje zabavne lažne videoklipove je „derpfakes“.

Ipak, ono što izaziva veću pažnju kritičara i javnosti je, svakako, politički deepfake, odnosno klipovi u kojima su političari  glavni akteri izmišljenih izjava i ponašanja. Početkom prošle godine je objavljen videoklip u kojem bivši predsjednik SAD-a Barack Obama svog nasljednika naziva potpunom budalom. Naravno, video je lažan i nastao je upravo s ciljem podizanja svijesti o opasnosti pojave deepfake sadržaja. Razlog više za to leži u činjenici da za kreiranje ovakvih sadržaja nije potreban tim eksperata, već je uz pomoć besplatnih online aplikacija i softvera moguće vrlo lako producirati lažne videosadržaje. S tim u vezi, oni koji nisu upoznati s deepfakeom mogu vrlo lako povjerovati da je u pitanju stvarna Obamina izjava.

Deepfake kao politička strategija

U stručnim krugovima se već pretpostavlja da će predstojeći predsjednički izbori 2020. u SAD-u biti obilježeni deepfakeom, te da će ova tehnika proizvodnje i plasiranja dezinformacija biti jedan od glavnih alata političke borbe u budućnosti. U tom smislu, čini se da su probni baloni već pušteni. Naime, krajem maja ove godine procurio je fake video u kojem se, navodno, američka političarka Nancy Pelosi, inače predsjedavajuća Predstavničkog doma Kongresa SAD-a i članica Demokratske stranke, ponaša kao da je pijana tokom jednog javnog nastupa. Naime, vrlo jednostavnom tehnikom usporavanja brzine izjave u montaži se stvorio efekat pijanstva. Video je, praktično, za nekoliko trenutaka postao viralan i objavljen je na nekoliko portala i grupa na društvenim mrežama koje podržavaju Donalda Trumpa. Čak je i sam predsjednik Trump na svom nalogu na Twitteru kritikovao političarku da muca tokom javnog nastupa, što se, naravno, nadovezalo na optužbe da je bila pijana u svom obraćanju medijima. Upravo je ovo jedan od dodatnih problema koji se vežu za deepfake. Naime, opasnost je veća kada zvanični izvori (političari, mediji, političke organizacije) počinju dijeliti ove sadržaje. Na taj način fake sadržaji dobijaju na težini i, naravno, mogu proizvesti dodatne političke posljedice. U ovom trenutku je vrlo teško pretpostaviti kakvi bi mogli biti potencijalni problemi kada proizvodnja ovakvih sadržaja postane sastavni dio predizborne utakmice. Jedno je sigurno – nalazimo se na početku nove ere propagandnih ratova koja se razvija uslijed snažne ekspanzije tehnologije.

Slično, politička partija „Socialistische Partij Anders“ (Sp.a) iz Belgije objavila je fake video u kojem Donald Trump kao glavni akter poziva Belgijance da odustanu od Pariskog sporazuma o klimatskim promjenama. Naravno, video je naišao na ogromnu pažnju, a politička partija je svjesno ovo uradila kako bi probudila svijest građana o problemima klimatskih promjena, pozivajući ih da potpišu online peticiju o klimatskoj politici Belgije. Ono što je posebno zabrinjavajuće je činjenica da je videosinhornizacija relativno lošeg kvaliteta, a čak na kraju sam Trump kaže da je u pitanju „lažni video“,  pa se očekivalo da će publika jednostavno prepoznati da se radi o lažnom sadržaju i ignorisati ga. Ipak, video je uznemirio javnost i, čini se, postigao željeni cilj.

Međutim, ono što je takođe vrlo važno napomenuti jeste da deepfake može izazvati čak i veće posljedice u nerazvijenim nego u razvijenim društvima. Naime, u nekim zemljama gdje je, generalno, relativno velika stopa nepismenosti i tehnološke nerazvijenosti, iznenadna pojava deepfake videosadržaja može imati daleko veće posljedice. Naime, manje obrazovani ljudi skloni su da vjeruju svemu što se pojavi na TV-u, odnosno, na nekom od monitora ili displeja. U tom smislu kreiranje lažnog, a potpuno uvjerljivog sadržaja je, svakako, opasno oružje koje može da manipuliše velikim brojem ljudi. Opasnost deepfake sadržaja bi mogla pogotovo biti izražena u zemljama s autoritarnim uređenjima u kojima vlade kontrolišu protok informacija. U ovim zemljama deepfake bi mogao biti korišten za kreiranje veće podrške lideru, generisanje straha od unutrašnjih i vanjskih neprijatelja kao i za mobilizaciju stanovništva za potrebe vladajućeg sistema. Takve negativne posljedice „iznenadnog“ razvoja tehnologije zabilježene su nedavno u Indiji u selu Handikera. Naime, grupu muškaraca su tokom posjete rodbini u selu napali seljani pod optužbom za kidnapovanje i zlostavljanje djece. Iako su ova glasine bile potpuno izmišljene, vijest je plasirana velikom broju ljudi unutar WhatsApp grupe. To je bilo dovoljno da se seljani okupe i nasmrt pretuku jednog, a teško povrijede dvojicu muškaraca, koji su došli s potpuno drugom namjerom. Zabrinjavajuće je da je od aprila 2018. godine čak 17 ljudi ubijeno u Indiji pod sličnim okolnostima.

Kako se oduprijeti deepfake sadržajima

Iako deepfake news počinju nagrizati demokratski poredak, postoje određeni savjeti koji mogu pomoći kako bi se uočilo postojanje ovakvih sadržaja. Prije svega, treba obratiti pažnju na treptanje očiju. Ukoliko političar ili neka javna ličnost za koju se pretpostavlja da je glavni akter deepfake sadržaja uopšte ne trepće tokom trajanja klipa, onda je vrlo vjerovatno da se radi o nekom fake sadržaju. Naime, dosadašnji razvoj „deep learning“ softvera na kojima se bazira kreiranje deepfake sadržaja nije se obazirao na treptanje, pa se još uvijek ovakvi sadržaji mogu prepoznati na taj način. Neprirodni pokreti lica, fiksiran pogled ili pretjerano svjetlucanje lica  takođe mogu da olakšaju uočavanje ovakvih sadržaja, a detaljniji priručnik o tome kako uočiti deepfake sadržaj objavio je Univerzitet u Albaniju (SUNY).

Osim ovih preporuka  postoje i kompanije koje su se već uhvatile u koštac s deepfake sadržajima. Kompanija „Faculty“ se bavi razvijanjem vještačke inteligencije u cilju kreiranja boljeg poslovnog, ali i životnog okruženja. U tom smislu, ova kompanija stavlja poseban akcenat na „borbu“ protiv deepfake sadržaja. Naime, kompanija je odlučila prikupiti hiljade dostupnih deepfake sadržaja različitog kvaliteta. Ideja nije sijati dezinformacije, nego izgraditi biblioteku ovakvih sadržaja koja može biti od koristi korisnicima, ali u isto vrijeme može pomoći u razvijanju boljih softvera za razlikovanje stvarnog videa ili zvuka od lažnih.

Slično, postoji i aplikacija „Amber video“, koja služi za verifikaciju videosadržaja i koja može biti korisna u borbi protiv deepfake klipova. Međutim, potencijalni problem je što su kreatorima lažnih videoklipova takođe dostupne sugestije o tome kako prepoznati lažni video. Oni ih vješto koriste kako bi unaprijedili svoje tehnike što vjerodostojnije produkcije ovakvih sadržaja. S tim u vezi, može se reći da se u ovom trenutku odvija igra mačke i miša između kreatora deepfake sadržaja i stručnjaka za njihovo prepoznavanje.

Deepfake postdemokratija

Bilo kako bilo, čini se da se fenomen deepfake sadržaja u potpunosti uklapa u savremenu eru postistine. Naime, sklonost da se ljudi ponašaju u skladu sa svojim uvjerenjima, a ne vođeni činjenicama, zapravo u potpunosti ide u prilog postojanju deepfakea. Era u kojoj dolazi do pada povjerenja u medije stvara pogodno tlo za snažniji uticaj raznih vidova lažnih sadržaja. Ljudi odlučuju da vjeruju onim izvorima i sadržajima koji se slažu s njihovim uvjerenjima ili „slikama u glavama“ (Walter Lipman), pa čak i kada nisu u potpunosti vjerodostojni. U tom smislu fake video neke izjave političara će uvijek naići na ogromnu pažnju, kako onih koji podržavaju tog političara tako i onih koji su protiv njega. Jednostavno, takav lažni sadržaj automatski postaje poligon za politička prepucavanja, ali i širenje govora mržnje, što svakako podriva demokratske principe u najširem smislu.

Osim toga, ekspanzija deepfake sadržaja sužava prostor argumentovane kritičke rasprave, ali i donošenje kvalitetnih informisanih političkih odluka. Problem s postojanjem i ekspanzijom fake sadržaja nije sam sadržaj već činjenica da ovakvi sadržaji postoje u online sferi. Svijest o postojanju velikog broja lažnih sadržaja, zapravo, kod ljudi može stvoriti i produbljivati nepovjerenje u sve medije, pa čak i one koji profesionalno obavljaju svoj posao. To se u teoriji zove „apatija stvarnosti“, pri čemu stalni kontakt s dezinformacijama tjera ljude da prestanu da vjeruju u ono što vide i čuju. Drugim riječima, najveća prijetnja nije da će ljudi biti prevareni u nekom pojedinačnom slučaju, već da će se konstantno osjećati paranoično kao da su u opasnosti od obmane. Takva atmosfera, svakako, stvara krizu demokratije i, može se reći, vraća društvo u pretpolitičko stanje.

Osim toga, širenje deepfake sadržaja može dovesti do potpunog odsustva odgovornosti kod političara. S obzirom na to da je moguće napraviti potpuno lažni sadržaj, čime se brišu granice između stvarne i medijski konstruisane stvarnosti, političari svoje ponašanje mogu staviti na teret deepfake klipovima i pretvarati se da oni ne stoje iza određene izjave. S obzirom na to da živimo u eri postistine, milioni ljudi koji ne mogu napraviti razliku između stvarnog i izmišljenog će, jednostavno, vjerovati više svom lideru nego činjenicama koje dokazuju suprotno. Konačno, politička javnost koja nije dovoljno medijski pismena neće nikad u potpunosti doživjeti kritičko punoljetstvo, što će moćnim političkim i interesnim mašinerijama otvoriti prostor za različite vrste manipulacija i širenja propagandnih poruka.