Aplikacije koje pomoću vještačke inteligencije stvaraju lažne nage i seksualizirane fotografije stvarnih osoba postale su široko dostupne, jeftine i jednostavne za korištenje. Zbog toga su žene, javne ličnosti, novinarke, seksualne radnice i pripadnici LGBTQI+ zajednice sve češće izloženi uznemiravanju, ucjenama i koordiniranim kampanjama digitalnog nasilja.

Istraživanje portala Tech Policy Press pokazuje da za izradu uvjerljivog deepfake sadržaja više nije potrebno posebno tehničko znanje. Dovoljni su fotografija žrtve i nekoliko jednostavnih naredbi, dok je lažne snimke često teško razlikovati od autentičnih. Takozvane aplikacije za „skidanje odjeće“ samo su putem Appleove prodavnice preuzete oko 483 miliona puta, a ostvarile su više od 122 miliona dolara prihoda.

Posljedice za žrtve ne ostaju ograničene na internet. Osobe čije su fotografije zloupotrijebljene prijavljuju strah, gubitak osjećaja sigurnosti, narušavanje ugleda, smanjenje prihoda, ucjene, otkrivanje identiteta, pa čak i prisilno preseljenje.

Istovremeno, policijske institucije često nisu pripremljene za ovakve slučajeve, dok platforme uklanjaju pojedinačne objave bez efikasnog utvrđivanja identiteta počinilaca. Evropske institucije razmatraju zabranu alata za nedobrovoljnu seksualizaciju, ali stručnjaci upozoravaju da ostaju otvorena pitanja primjene propisa i odgovornosti kompanija koje razvijaju i distribuiraju ove tehnologije.

Izvor: Tech Policy Press