Grupa od 20 tehnoloških kompanija zajednički će raditi kako bi spriječili da obmanjujući sadržaj umjetne inteligencije ometa izbore širom svijeta ove godine.
Brzi rast generativne umjetne inteligencije (AI), koja može stvoriti tekst, slike i video u sekundi kao odgovor na upite, pojačao je strahove da bi se nova tehnologija mogla koristiti za uticaj na izbore ove godine kada više od polovine svjetskog stanovništva izlazi na izbore.
Potpisnici sporazuma, koji je najavljen na sigurnosnoj konferenciji u Minhenu, uključuju kompanije koje grade generativne AI modele koji se koriste za stvaranje sadržaja, uključujući OpenAI, Microsoft i Adobe.
Ostali potpisnici uključuju platforme društvenih medija koje će se suočiti s izazovom uklanjanja štetnog sadržaja sa svojih stranica, kao što su Meta Platforms, TikTok i X.
Sporazum uključuje obaveze saradnje na razvoju alata za otkrivanje obmanjujućih slika, videa i zvuka generiranih umjetnom inteligencijom, stvaranje kampanja za podizanje javne svijesti kako bi se birače educiralo o varljivom sadržaju i poduzimanje radnji u vezi s takvim sadržajem na njihovim uslugama.
Tehnologija za prepoznavanje sadržaja generiranog umjetnom inteligencijom ili potvrđivanje njegovog porijekla mogla bi uključivati vodeni žig ili ugrađivanje metapodataka, ali u sporazumu nije preciziran vremenski rok za ispunjavanje obaveza niti kako će ih svaka kompanija provoditi.
– Mislim da je korisnost ovog sporazuma širina kompanija koje ga potpisuju – rekao je predsjednik globalnih poslova u Meta Platforms Nick Clegg.
– Sve je u redu ako pojedinačne platforme razviju nove politike otkrivanja, porijekla, označavanja, vodenog žiga i tako dalje, ali osim ako ne postoji šira obaveza da se to učini na zajednički interoperabilan način, zaglavit ćemo s mješovitošću različitih obaveza – rekao je Clegg.
Generativna umjetna inteligencija već se koristi za utjecaj na politiku, pa čak i za uvjeravanje ljudi da ne glasaju. U januaru je biračima u New Hampshireu kružio robotski poziv koji je koristio lažni zvuk predsjednika SAD-a Joea Bidena, pozivajući ih da ostanu kod kuće tokom predsjedničkih primarnih izbora u toj državi.
Unatoč popularnosti alata za generiranje teksta poput OpenAI-jevog ChatGPT-a, tehnološke kompanije fokusirat će se na sprječavanje štetnih učinaka AI fotografija, videa i zvuka, dijelom zato što su ljudi skloniji imati veću skepsu prema tekstu, rekla je Dana Rao iz Adobeova.
– Postoji emocionalna veza sa audiom, videom i slikama. Vaš je mozak namješten da vjerujete takvoj vrsti medija – dodala je.
Izvor: Reuters