Nakon intenzivnih pregovora ove sedmice, zastupnici u Bruxellesu postigli su “privremeni dogovor” o predloženom Zakonu o umjetnoj inteligenciji (AI Act) Evropske unije koji će biti sveobuhvatni skup pravila za upravljanje umjetnom inteligencijom i mogao bi poslužiti kao mjerilo za druge regije koje žele usvojiti slične zakone.
Prema saopćenju, pregovarači su uspostavili obaveze za “visokoučinkovite” AI sisteme opće namjene (GPAI) koji ispunjavaju određena mjerila, poput procjene rizika, testiranja i izvještaja o incidentima.
Također nalaže transparentnost onih sistema koji uključuju izradu tehničkih dokumenata i “detaljne sažetke o sadržaju koji se koristi za obuku” – nešto što su kompanije poput proizvođača ChatGPT-a OpenAI do sada odbijale učiniti.
Drugi je element podrazumijeva da građani imaju pravo podnijeti pritužbe na sisteme umjetne inteligencije i dobiti objašnjenja o odlukama koje utiču na njihova prava.
U saopćenju nije precizirano na koji način će to funkcionirati ili koja su mjerila, ali je naveden okvir za novčane kazne ako kompanije prekrše pravila. Razlikuju se ovisno o prekršaju i veličini kompanije i mogu se kretati od 35 miliona eura ili sedam posto globalnog prihoda do 7,5 miliona eura ili 1,5 posto globalnog prihoda od prometa.
Postoji niz aplikacija u kojima je upotreba umjetne inteligencije zabranjena, poput uzimanja slika lica sa CCTV snimaka, kategorizacije na temelju “osjetljivih karakteristika” poput rase, seksualne orijentacije, vjere ili političkih uvjerenja, prepoznavanja emocija na poslu ili u školi ili stvaranje sistema “društvenog bodovanja”.
Posljednje dvije zabranjene tačke su AI sistemi koji “manipuliraju ljudskim ponašanjem kako bi zaobišli njihovu slobodnu volju” ili “iskorištavaju ranjivost ljudi”. Pravila također uključuju popis zaštitnih mjera i izuzeća za korištenje biometrijskih sistema za provođenje zakona, bilo u stvarnom vremenu ili za traženje dokaza u snimkama.
Očekuje se da će konačni dogovor biti postignut prije kraja godine. Čak i tada, zakon vjerovatno neće stupiti na snagu prije 2025. godine.
Prvi nacrt Zakona o umjetnoj inteligenciji EU-a predstavljen je 2021. godine, nastojeći razlučiti šta se zapravo računa kao umjetna inteligencija i sinhronizirati pravila za reguliranje tehnologije umjetne inteligencije u državama članicama EU-a. Međutim, taj je nacrt prethodio uvođenju brzo mijenjajućih generativnih AI alata kao što su ChatGPT i Stable Diffusion, što je dovelo do brojnih revizija zakona.
Još će biti potrebni daljnji pregovori kako bi se finalizirali neki detalji prije stupanja na snagu Zakona o umjetnoj inteligenciji, uključujući glasanje parlamentarnih odbora za unutrašnja tržišta i građanske slobode.
Pregovori oko pravila koja reguliraju praćenje biometrijskih podataka uživo (kao što je prepoznavanje lica) i temeljnih modela AI “opće namjene” poput ChatGPT-a izazivali su velike podjele. O njima se navodno još uvijek raspravljalo ove sedmice prije objave saopćenja, zbog čega je konferencija za novinare na kojoj je najavljen sporazum odgođena.
Zakonodavci EU-a tražili su potpunu zabranu upotrebe umjetne inteligencije u biometrijskom nadzoru, ali vlade su tražile izuzetke provedbu zakona vezane za nacionalnu sigurnost. Vjeruje se da su kašnjenjima pridonijeli i kasni prijedlozi Francuske, Njemačke i Italije da se proizvođačima generativnih modela umjetne inteligencije omogući samoregulacija.
Izvor: The Verge
