Tvorac ChatGPT-a pod istragom je glavnog američkog nadzornika tržišne konkurencije kako bi se utvrdilo da li je prekršio zakon o zaštiti potrošača narušavajući ugled ljudi svojim odgovorima i zloupotrebom ličnih podataka.
Potez protiv OpenAI-ja predstavlja dosad najjaču regulatornu prijetnju kompaniji koja je izazvala pomamu u generativnoj umjetnoj inteligenciji, zadivivši potrošače i kompanije dok je istovremeno izazvala zabrinutost zbog potencijalnih rizika.
Savezna komisija za trgovinu (FTC) poslala je zahtjev na 20 stranica za evidenciju o tome kako OpenAI rješava rizike povezane s njegovim AI modelima. Agencija istražuje da li je kompanija bila uključena u nepoštene ili obmanjujuće prakse.
Jedno pitanje odnosi se na korake koje je OpenAI poduzeo kako bi se pozabavio potencijalom svojih proizvoda za “generiranje izjava o stvarnim pojedincima koje su lažne, obmanjujuće ili omalovažavajuće”.
U jednom notornom primjeru, ChatGPT je lažno optužio američkog profesora prava za seksualno uznemiravanje i pritom citirao nepostojeći članak u Washington Postu.
Djelujući na način sličan prediktivnom tekstu, chatbotovi se temelje na modelima koji predviđaju riječ ili rečenicu koja će najvjerovatnije doći nakon korisnikovog upita. To može dovesti do činjeničnih pogrešaka, ali uvjerljiva i ljudska priroda odgovora može prevariti korisnike da pomisle da je odgovor 100 posto tačan. Modeli su uvježbani na golemim količinama podataka preuzetih s interneta.
FTC je također zatražio od OpenAI-ja da otkrije podatke koje je koristio za obuku velikih jezičnih modela (LLM) koji podržavaju proizvode kao što je ChatGPT, nešto što je OpenAI do sada odbijao učiniti.
FTC je zahtijevao da zna je li OpenAI dobio podatke s interneta direktno – putem procesa poznatog kao “scraping” – ili ih je kupio od trećih strana. Također traži nazive web stranica s kojih su podaci preuzeti, kao i sve korake poduzete da se spriječi uključivanje ličnih podataka.
Kako se utrka za razvojem snažnijih AI usluga ubrzava, regulatorni nadzor nad tehnologijom koja bi mogla promijeniti način na koji funkcioniraju društva i kompanije raste.
Globalni regulatori nastoje primijeniti postojeća pravila koja pokrivaju sve, od autorskih prava i privatnosti podataka do dva ključna pitanja: podataka koji se unose u modele i sadržaja koji proizvode.
U Ujedinjenom Kraljevstvu, premijer Rishi Sunak sazvao je globalni summit o sigurnosti umjetne inteligencije na jesen, dok domaći nadzornik tržišne konkurencije također pomno ispituje industriju.
U SAD-u, čelnik većine u Senatu, Chuck Schumer, pozvao je na “sveobuhvatno zakonodavstvo”. OpenAI je također naišao na probleme u Italiji, gdje je regulator isključio ChatGPT zbog optužbi da je OpenAI prekršio EU GDPR – široki režim zaštite privatnosti koji je donesen 2018. godine.
ChatGPT je vraćen kasnije nakon što je američka kompanija pristala instalirati značajke za provjeru dobi i dopustiti evropskim korisnicima da blokiraju korištenje svojih podataka za treniranje AI modela.
Izvor: The Guardian
