– Morao sam gledati svaki kadar nedavnog videa napada na ženu. Te me slike nikada neće napustiti -kazao je Harun, jedan od mnogih moderatora koji pregledavaju štetne internetske sadržaje u Indiji, dok kompanije društvenih mreža sve više sele taj izazovan posao u inostranstvo.

Moderatori koji rade u Hyderabadu, glavnom informatičkom središtu u južnoj Aziji, govorili su o problemima mentalnog zdravlja zbog pregledavanja slika i videozapisa seksualnog i nasilnog sadržaja, koji ponekad uključuju i djecu žrtve trgovine ljudima.

Mnoge platforme društvenih mreža u Ujedinjenom Kraljevstvu, Evropskoj uniji i Sjedinjenim Američkim Državama preselile su rad u zemlje poput Indije i Filipina.

Iako je OpenAI, tvorac ChatGPT-a, rekao da bi se umjetna inteligencija mogla koristiti za ubrzavanje moderiranja sadržaja, ne očekuje se da će to ukinuti potrebu za hiljadama osoba koje zapošljavaju platforme društvenih mreža.

Moderatori sadržaja u Hyderabadu kažu da su zbog posla bili emocionalno potišteni, depresivni i teško spavaju. “Morao sam gledati svaki kadar videa ubadanja djevojke. Najviše me razljutilo što joj prolaznici nisu pomogli“, kaže Harun.

– To je video koji je djelovao na mene kao ni jedan prije. Možda ste vidjeli video u zamućenoj verziji, ali ja sam ga morao pogledati potpuno i jasno. Nikada me te slike neće napustiti – dodao je.

Harun, 22, bio je jedan od osam moderatora koji su pristali razgovarati s Guardianom pod uvjetom da ostanu anonimni te su im imena izmijenjena. Njihova prosječna plaća bila je manja od osam funti dnevno. Dok ispitanici kažu da su bili potaknuti da potraže pomoć u stresnim situacijama, samo je jedan od moderatora smatrao da je podrška bila korisna.

– Ta podrška je formalnost jer globalne kompanije moraju ispuniti zakonsku klauzulu, ali u stvarnosti kad smo preopterećeni nakon pregleda osjetljivog videa, jednostavno nas premjeste u manje osjetljiv odjel dok se ne budemo osjećali bolje – kaže Harun.

Akash je imao 21 godinu kada je diplomirao. Budući da je od rođenja imao problema s kretanjem, često se osjećao obeshrabreno kad bi dobivao odbijenice od kompanija sa sjedištem u Hyderabadu, no kada je konačno dobio posao moderatora shvatio je da to nije ono za šta se prijavio, navodeći da se osjeća kao da svaki dan ulazi u sobu za mučenje.

Neha je više od četiri godine radila kao moderator pregledavajući osjetljivi sadržaj. Kaže da joj je “krv proključala” kada su šefovi njoj i drugim moderatorima na timskom sastanku rekli da se “opuste i ne ‘primaju k srcu’ kad se bave sadržajem poput seksualnog nasilja”.

– Samo želim raditi za kompaniju koja pedofilima ne daje platformu. Zgrožena sam. Sada sam se prestala žaliti i tražim novi posao. Barem da plaćaju bolje za ono što radimo, imala bih novca da platim terapije – dodala je.

Drugi moderator, Rishi (23) koji posebno radi na sadržaju iz Evropske unije, kaže da se posvađao s nadređenima kad je spomenuo da treba zabraniti video snimke bolesnika koji ubijaju i pretvaraju se da jedu lešine životinja.

– Ovi su videozapisi rijetki, ali zašto pustiti nešto tako sadističko na platformu? Osim ako je namjera dobiti više prihoda putem takvih videa. Postoji potreba za strogom regulacijom, posebno za aplikacije za prijenos uživo. Upravljamo sadržajem kako bismo zaštitili mentalno zdravlje ljudi uz rizik naše emocionalne dobrobiti – naveo je.

Direktorica neprofitne organizacije za informatiku i društvenu pravdu Foxglove  Martha Dark kaže da moderatori trebaju bolju zaštitu od “trauma koje mijenjaju život”.

– Moderatori sadržaja preuzimaju veliki rizik kako bi nas zaštitili, boreći se svaki dan protiv bujice nasilja i zlostavljanja djece. Bez njih nema društvenih mreža – kaže ona.

Dark na kraju ocjenjuje da umjetna inteligencija “nije i možda nikad neće moći” učinkovito moderirati sadržaj te dodaje da je jedino pravo rješenje ulaganje u moderatore sadržaja koji već rade taj posao.

Izvor: The Guardian