Lažni radijski prilozi kreirani pomoću umjetne inteligencije postepeno ulaze u arsenal alata za širenje dezinformacija. Bilo da se radi o deepfake snimcima novinara ili samo sintetiziranim glasovima, AI se koristi za simuliranje sadržaja poznatih i vjerodostojnih medija s ciljem manipulacije javnošću.
Francuski međunarodni javni emiter Radio France Internationale (RFI) ponovo je bio žrtva krađe identiteta putem generativne umjetne inteligencije. U videu koji nosi RFI-jev logo, lažni glasovi više od pet minuta raspravljaju o mogućoj predsjedničkoj kandidaturi kamerunskog opozicionog lidera Mauricea Kamtoa. Njegova kandidatura na izborima planiranim za oktobar trenutno je tema političkih rasprava u Kamerunu.
Iako je dijalog u videu nezgrapan, ton izrazito robotski, a format ne odgovara RFI-jevim uređivačkim standardima, Reporteri bez granica (RSF) saznali su da to ne sprječava korisnike društvenih mreža da ga komentiraju, dijele kao autentičan ili distribuiraju putem WhatsApp grupa.
Ovo nije prvi put da je generativna AI korištena za falsificiranje sadržaja RFI-ja ili drugih francuskih javnih emitera. U aprilu, u Demokratskoj Republici Kongo, lažni radijski program simulirao je glasove Arthura Poncheleta (RFI) i Aurélie Bazzara (France 24) kako bi se lažnom javnom izvinjenju Cornellea Nangae, lidera pobunjeničke koalicije AFC/M23, dalo na vjerodostojnosti.
I taj sadržaj, iako generiran pomoću AI, nije tako izgledao, pa je dijeljen putem WhatsAppa, YouTubea, TikToka i Facebooka, prikupivši više od 100.000 pregleda. U februaru su lažni sintetički audio zapisi, pripisani istim javnim medijima, široko kružili i senegalskim društvenim mrežama.
– Prisvajanje identiteta medija radi proizvodnje lažnih vijesti nije ništa novo, ali generativna AI ovu strategiju čini jeftinijom i efikasnijom. Takav sadržaj truje javnu debatu i otvara eru stalne sumnje, dodatno urušavajući povjerenje u medije – kazao je Vincent Berthier, šef RSF-ovog odjela za tehnologiju i novinarstvo.
Dodaje da platforme i alati generativne AI moraju uključiti konkretne mjere za praćenje i autentifikaciju sadržaja – da li potječe iz medija, je li generiran pomoću AI-a ili nema dovoljno informacija o njegovom porijeklu. Svi akteri u lancu proizvodnje i distribucije sadržaja, posebno platforme, moraju preuzeti odgovornost za suzbijanje ove prijetnje, kazao je.
Prošle godine, neke digitalne kompanije obavezale su se na označavanje sintetičkog sadržaja, ali ta obaveza zasad važi samo kada je dostupna metapodatkovna oznaka – što je lako zaobići. Sve dok priroda sadržaja (autentičan, sintetički ili nepoznatog porijekla) ostaje skrivena od korisnika i nije integrirana u algoritamske procese širenja, manipulacije će se moći nastaviti nesmetano i u porastu.
Postaje ključno klasificirati javno dostupan sadržaj prema njegovoj prirodi – da li je autentičan i proizveden od strane novinara ili građana, sintetički, ili neprepoznatljiv. Upravo zbog nedostatka jasnoće u vezi s ovom trećom kategorijom dolazi do porasta napada na novinare i medije temeljenih na deepfakeovima i sintetičkim glasovima. Za sada, mogućnosti zaštite od ovakvih napada su ograničene.
Pariška povelja o AI i novinarstvu, koju je 2023. godine inicirao RSF, a čije je pisanje vodila dobitnica Nobelove nagrade za mir Maria Ressa, pozvala je medije da usvoje tehnologije za autentifikaciju sadržaja, kako bi publika mogla biti sigurna da je sadržaj vjerodostojan.
Ovakve tehnologije su trenutno u razvoju i testiraju ih novinske web stranice i agencije poput Agence France-Presse (AFP). Te napore treba prepoznati, podržati i promovirati putem distribucijskih platformi. Samo uz veću transparentnost na platformama moguće je efikasno suzbiti deepfakeove i krađu medijskog identiteta.
Izvor: RSF
