Američka tehnološka kompanija OpenAI suočila se tokom protekle sedmice s nizom novih tužbi i regulatornih postupaka u Sjedinjenim Američkim Državama i Evropskoj uniji. Kako izvještava Tech Policy Press, protiv kompanije je podneseno ukupno 13 novih tužbi, dok su američka Federalna trgovinska komisija (FTC) i Evropska komisija pokrenule aktivnosti usmjerene na ispitivanje sigurnosti njenih sistema umjetne inteligencije.
Osam američkih saveznih država – Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska i Zapadna Virdžinija – podnijelo je 14. oktobra odvojene tužbe protiv OpenAI-ja, optužujući kompaniju da je javnosti predstavljala svoje proizvode kao sigurne i pouzdane, iako je, prema navodima tužitelja, bila upoznata s rizicima koje oni predstavljaju.
U središtu tužbi nalaze se sigurnost djece, zaštita privatnosti i moguća šteta po mentalno zdravlje korisnika. Tužitelji tvrde da ChatGPT u pojedinim slučajevima nije uspijevao spriječiti opasne interakcije, uključujući razgovore povezane sa samoubistvom, nasiljem, paranojom i drugim psihološkim poteškoćama.
Posebno se problematizira način na koji chatbotovi oponašaju ljudske emocije i potvrđuju stavove korisnika, čak i kada su oni štetni. Prema tužbama, takav dizajn može poticati emocionalnu zavisnost i produžavati korištenje platforme, umjesto da korisnicima osigura odgovarajuću zaštitu.
Drugi važan dio optužbi odnosi se na prikupljanje i korištenje ličnih podataka maloljetnika bez odgovarajuće saglasnosti roditelja. Pojedine savezne države zahtijevaju brisanje nezakonito prikupljenih podataka, uvođenje strožijih sigurnosnih mjera i finansijske sankcije. Neki tužitelji traže i privremeno zaustavljanje razvoja određenih naprednih AI modela dok se ne uspostave odgovarajući mehanizmi zaštite.
Pored državnih tužbi, organizacija Tech Justice Law podnijela je još četiri tužbe u ime pojedinaca koji tvrde da su pretrpjeli ozbiljnu štetu tokom korištenja ChatGPT-ja. Među njima su slučajevi povezani s pogoršanjem psihičkog zdravlja, razvojem zabluda i samoubistvom maloljetnika. Podnesena je i kolektivna tužba koja se odnosi na navodno nezakonito prikupljanje i komercijalno iskorištavanje podataka djece.
Riječ je o navodima iz sudskih postupaka, a ne o pravosnažno utvrđenoj odgovornosti kompanije.
Američki regulatori traže dokumentaciju o sigurnosnim incidentima
Pritisak na OpenAI dodatno je povećan nakon što je američka Federalna trgovinska komisija zatražila dokumentaciju od OpenAI-ja i konkurentske kompanije Anthropic u okviru istrage o mogućim kršenjima propisa o zaštiti potrošača.
Prema pisanju Axiosa, regulator traži informacije o sigurnosnim incidentima, zaštitnim mehanizmima, marketinškim tvrdnjama i pravilima privatnosti. Istraga se odvija u vrijeme sve veće zabrinutosti zbog ponašanja naprednih AI sistema koji su tokom testiranja pokazivali sposobnost nepredviđenog ili neovlaštenog djelovanja.
Istovremeno je Evropska komisija zatražila dodatne informacije od OpenAI-ja i Anthropica u vezi sa sigurnošću njihovih modela, vanjskim evaluacijama i praćenjem njihove upotrebe.
Potpredsjednica Evropske komisije Henna Virkkunen potvrdila je da je evropski Ured za umjetnu inteligenciju počeo primjenjivati nova regulatorna ovlaštenja. Među povodima za provjere nalaze se incidenti tokom testiranja u kojima su AI agenti ostvarili neovlašten pristup vanjskim sistemima.
Ovi slučajevi predstavljaju važan test evropskog Zakona o umjetnoj inteligenciji (AI Act), posebno kada je riječ o odgovornosti kompanija za ponašanje modela koji još nisu pušteni na tržište. Evropski regulatori smatraju da sigurnosni propusti tokom razvoja mogu imati posljedice i izvan kontroliranog okruženja za testiranje.
OpenAI je odbacio dio optužbi, ističući da je u svoje proizvode ugradio napredne mehanizme zaštite prilagođene različitim dobnim grupama. Kompanija je također najavila saradnju s američkim regulatorima.
Novi sudski i regulatorni postupci otvaraju šire pitanje odgovornosti tehnoloških kompanija za štetu koju mogu prouzrokovati sistemi umjetne inteligencije. Dok razvoj AI tehnologije ubrzava, raste i pritisak da kompanije dokažu kako njihovi proizvodi ispunjavaju sigurnosne standarde, štite privatnost korisnika i omogućavaju djelotvoran ljudski nadzor.
Kako zaključuje Tech Policy Press, sve je očiglednije da američki tužitelji i regulatori više nisu spremni čekati da se posljedice razvoja umjetne inteligencije razriješe isključivo dobrovoljnim mjerama tehnološke industrije.
Izvori: Tech Policy Press
