Brazil je uveo jedan od najambicioznijih regulatornih okvira za borbu protiv takozvanog dizajna koji podstiče zavisnost od digitalnih usluga, posebno među djecom i adolescentima. Nova pravila, koja provode brazilski Digitalni statut djece i adolescenata, zabranjuju niz konkretnih funkcija, uključujući beskonačno skrolanje, automatsko pokretanje sadržaja, nagrade vezane za vrijeme provedeno na platformi, pretjerane notifikacije, otežavanje pristupa postavkama privatnosti i iskorištavanje kognitivnih ranjivosti maloljetnika.
Kazne za kompanije mogu doseći do deset posto prihoda grupe u Brazilu, uz ograničenje od 50 miliona brazilskih reala po prekršaju. Time se Brazil izdvaja od američkog i evropskog pristupa. U SAD-u se slična pitanja uglavnom rješavaju kroz postupke saveznih država i sudske sporove, dok se u Evropskoj uniji dizajn koji podstiče zavisnost sve više posmatra kroz pravila Akta o digitalnim uslugama i procjenu sistemskih rizika.
Brazilski model drugačiji je jer nadzor povjerava tehničkom regulatornom tijelu, Nacionalnoj agenciji za zaštitu podataka. Time se, barem u teoriji, izbjegava potreba da pojedinačni korisnici ili porodice dokazuju individualnu štetu, a obaveze kompanija mogu se standardizirati na nivou različitih sektora. Međutim, uspjeh cijelog modela zavisit će od odluka koje regulator tek treba donijeti.
Prvo otvoreno pitanje odnosi se na obim primjene novih pravila. Brazilski okvir je istovremeno uži i širi od sličnih propisa u drugim jurisdikcijama. Uži je jer se fokusira isključivo na maloljetnike, ali je širi jer se ne odnosi samo na velike online platforme. Pravila mogu obuhvatiti internetske aplikacije, softver, operativne sisteme, prodavnice aplikacija, povezane igre, ali i jezičke modele, chatbotove i druge AI interfejse kojima djeca mogu pristupiti.
To znači da regulator neće odlučivati samo o ponašanju društvenih mreža, velikih platformi i online trgovina, nego i o uslugama koje do sada često nisu bile u fokusu sličnih propisa. Među njima su aplikacije za učenje jezika, meditaciju, fitness aplikacije, igre za povremenu upotrebu i AI chatbotovi. U mnogim takvim servisima elementi gamifikacije nisu sporedni dodatak, nego suštinski dio proizvoda.
Posebno osjetljivo pitanje bit će primjena pravila na vještačku inteligenciju. Brazilski propisi od pružalaca usluga zasnovanih na jezičkim modelima i konverzacijskim agentima traže transparentnost o tome da korisnik komunicira sa sintetičkim sistemom, sprečavanje bihevioralne manipulacije i procjenu algoritamskih rizika. Budući da je rasprava o tome šta predstavlja zavisnički ili manipulativni dizajn u chatbotovima još u ranoj fazi, odluke brazilskog regulatora mogle bi postati važan međunarodni presedan.
Drugo ključno pitanje jeste način provođenja zakona. Regulator može ići putem pojedinačnog sankcionisanja svake zabranjene funkcije, što bi moglo donijeti brže i vidljivije rezultate. Naprimjer, ako platforma jasno koristi beskonačno skrolanje ili automatsko pokretanje sadržaja, regulator bi mogao reagovati na tu konkretnu praksu bez potrebe da dokazuje ukupni manipulativni karakter cijelog servisa.
Druga mogućnost je sistemski pristup, u kojem se platforme posmatraju kao cjelovite arhitekture dizajnirane da zadrže pažnju korisnika. Taj pristup sve više koristi Evropska komisija u okviru Akta o digitalnim uslugama, polazeći od pretpostavke da štetan efekat ne mora proizlaziti iz jedne funkcije, nego iz njihove kombinacije: preporuka sadržaja, notifikacija, automatskog pokretanja, skrolanja i oglašivačkih sistema.
U brazilskom slučaju sistemski pristup mogao bi povezati zabrane zavisničkog dizajna s drugim obavezama, uključujući zaštitne zadane postavke, upravljanje rizicima, alate za roditeljski nadzor i zabrane profiliranja maloljetnika u oglašavanju. Takav model mogao bi bolje prepoznati situacije u kojima je neka funkcija formalno dozvoljena, ali u kombinaciji s drugim elementima ipak proizvodi manipulativan efekat.
Moguć je i hibridni model: stroži sistemski nadzor za velike društvene mreže, video-platforme i online trgovine, a preciznije, pojedinačno provođenje pravila za manje i jednostavnije aplikacije. Takav pristup mogao bi omogućiti proporcionalniju regulaciju, ali i izbjeći da se isti standardi mehanički primjenjuju na veoma različite digitalne usluge.
Brazil je ovim zakonskim okvirom ušao u samu prvu liniju globalne rasprave o zaštiti djece od manipulativnog digitalnog dizajna. Ipak, zabrana sama po sebi neće biti dovoljna. Ključno će biti kako će regulator definisati obuhvaćene usluge, kako će tumačiti pojedine zabranjene mehanizme i hoće li nadzor biti usmjeren samo na vidljive funkcije ili na širu arhitekturu digitalnih platformi.
Ako te odluke budu pažljivo postavljene, brazilski model mogao bi postati važan primjer drugim državama koje pokušavaju zaštititi djecu od digitalnih sistema projektovanih da maksimalno produže njihovu pažnju i angažman.
Izvor: Tech Policy Press
