Više od 1.000 stručnjaka za umjetnu inteligenciju, istraživača i podržavalaca pridružilo se pozivu za pauziranjem u stvaranju “divovskih” AI-jeva na najmanje šest mjeseci, kako bi se mogućnosti i opasnosti sistema kao što je GPT-4 mogle pravilno proučiti i ublažiti.
Zahtjev je postavljen u otvorenom pismu koje su potpisali glavni AI igrači uključujući: Elona Muska, koji je suosnivač OpenAI-a, istraživačkog laboratorija odgovornog za ChatGPT i GPT-4; Emad Mostaque, koji je osnovao Stability AI sa sjedištem u Londonu; i Steve Wozniak, suosnivač Applea.
Njegovi potpisnici također uključuju inženjere iz Amazona, DeepMinda, Googlea, Mete i Microsofta, kao i akademike uključujući kognitivnog naučnika Garyja Marcusa.
– Posljednjih mjeseci vidjeli smo AI laboratorije u nekontroliranoj utrci za razvojem i uvođenjem sve moćnijih digitalnih umova koje niko – čak ni njihovi kreatori – ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati – stoji u pismu.
Kako se navodi, moćne AI sisteme treba razvijati tek kada se bude sigurno da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati. Autori, kojima koordinira thinktank Future of Life Institute, citiraju OpenAI-jevog suosnivača Sama Altmana u opravdavanju svojih poziva.
– U nekom trenutku, moglo bi biti važno dobiti nezavisni pregled prije nego što počnete obučavati buduće sisteme, a za najnaprednije napore dogovoriti se da se ograniči stopa rasta računara koje se koristi za stvaranje novih modela – napisao je u postu Altman, a u pismo je rečeno „Slažemo se. Ta tačka je sada”.
Ako istraživači neće dobrovoljno zaustaviti svoj rad na modelima umjetne inteligencije moćnijim od GPT-4, referentne vrijednosti za “divovske” modele, onda bi “vlade trebale uskočiti”, kažu autori.
– Ovo ne znači pauzu u razvoju umjetne inteligencije općenito, samo povlačenje iz opasne utrke ka sve većim i nepredvidljivim modelima crnih kutija s novim mogućnostima – dodaju.
Od izdavanja GPT-4, OpenAI dodaje mogućnosti AI sistemu što mu omogućava traženje podataka na otvorenom webu, planiranja praznika, pa čak i naručivanja namirnica. No, kompanija se mora suočiti s “prekomjernim mogućnostima” problemom da su njezini vlastiti sistemi moćniji više nego što se zna rije pokretanja.
Dok istraživači eksperimentiraju s GPT-4 tokom sljedećih sedmica i mjeseci, vjerovatno će otkriti nove načine “poticanja” sistema koji poboljšavaju njegovu sposobnost rješavanja teških problema.
Jedno nedavno otkriće je da je umjetna inteligencija osjetno tačnija u odgovaranju na pitanja ako joj se prvo kaže da to učini “u stilu dobrog stručnjaka”.
Izvor: The Guardian
