Saopštenje od samo jedne rečenice s potpisima stotinjak stručnjaka za umjetnu inteligenciju, uključujući Sama Altmana čija je firma stvorila ChatGPT, upozorilo je kako razmatranje rizika od te tehnologije mora biti „globalni prioritet poput drugih prijetnji društvu kao što su pandemije i nuklearni rat“.
ChatGPT, trenutno najrašireniji alat umjetne inteligencije (AI), sposoban je po uputama korisnika generirati eseje, poeme i odgovarati na njihova pitanja o bilo kojoj temi. Velik uspjeh tog programa potaknuo je ‘zlatnu groznicu’ milijardi dolara investicija u područje AI-ja, no kritičari i stručnjaci upozoravaju na njegove opasnosti.
Raširena je zabrinutost da bi ‘chatbotovi’ mogli preplaviti internet dezinformacijama, da će pristrani algoritmi stvarati rasistički sadržaj ili da će AI automatizacija dokrajčiti niz industrija.
– Izbjegavanje prijetnje od izumiranja zbog umjetne inteligencije trebao bi biti globalni prioritet poput drugih prijetnji društvu kao što su pandemije i nuklearni rat – saopćenje je objavljeno na stranici američkog neprofitnog Centra za AI sigurnost.
Potpisalo ga je više od stotinu stručnjaka za AI, ali i drugih javnih ličnosti poput bivše estonske predsjednice Kersti Kaljulaid ili muzičarke Grimes, bivše supruge Elona Muska. Među potpisnicima su i stručnjaci kompanija poput Googlea i Microsofta.
Dio potpisnika, poput Geoffreya Hintona koji je ranije razvijao tehnologiju za podlogu mnogih AI sistema i ranije su davali slična upozorenja. Najviše ih brine razvoj takozvane opće umjetne inteligencije (AGI), što je širok termin za trenutak kad će mašine postati sposobne programirati same sebe i obavljati širok raspon djelatnosti.
Stručnjaci strahuju da ljudi tada više neće imati kontrolu nad tim superinteligentnim mašinama što bi moglo imati katastrofalne posljedice na život na Zemlji.
Ovo saopćenje dolazi nekoliko mjeseci nakon što su Musk i niz naučnika objavili otvoreno pismo s pozivom da se pauzira razvoj takvih tehnologija dok se ne utvrdi da su sigurne. Ono je naišlo na kritike jer je dio javnosti smatrao da su upozorenja o društvenom kolapsu značajno pretjerana.
Američka računarska lingvistica Emily Bender, koatorica uticajnih radova kritičnih prema AI-ju, rekla je da je pismo iz marta, s potpisima stotina istaknutih ličnosti, prepuno „AI pompe“.
Bender i drugi kritiziraju AI kompanije jer odbijaju objaviti izvore svojih podataka ili otkriti načine funkcioniranja njihovih modela – što je takozvani problem ‘crne kutije’. Kritizira ih se zbog mogućnosti da je AI ‘treniran’ na rasističkom, seksističkom ili politički pristranom materijalu.
Altman, trenutno na turneji svijetom u pokušaju oblikovanja rasprave o AI-ju, nekoliko je puta ukazao na opasnost za svijet od tehnologije koju razvija i njegova kompanija.
– Ako nešto pođe po zlu s AI-jem, neće vam pomoći gas maska – rekao je novinarima u Parizu. No branio je odluku kompanije da ne objavi svoje metode, kazavši da je važno samo prolazi li tehnologija na „rasnom testu“, gdje se pokazalo da je „iznenađujuće nepristrana“.
Izvor: N1
