Društvene mreže, prije svega, služe u svrhu lakšeg komuniciranja i razmjene informacija. Međutim, njihova primarna funkcija se često zanemaruje te postaju platforme za širenje govora mržnje. Anonimnost koju korisnici uživaju na društvenim mrežama dodatno otežava prepoznavanje i sankcionisanje štetnih narativa. Stoga mnoge tehnološke kompanije se okreću ka alatima umjetne inteligencije (AI) za automatsko moderiranje objava. Ipak, ovi modeli se suočavaju s ozbiljnim ograničenjima jer korisnici nastavljaju širiti govor mržnje prilagođavanjem svojih poruka. Oni to čine korištenjem low-resource jezika, za koje AI alati nemaju dovoljno podataka za prepoznavanje. Korisnici, koristeći se ovom taktikom, nastavljaju nesmetano širiti štetne narative. Pravila postoje, ali njihova primjena zavisi od algoritamskog razumijevanja pojedinog jezika.
Govor mržnje na društvenim mrežama
Iako se pojam „govor mržnje“ često spominje u javnom prostoru, ne postoji njegova univerzalno prihvaćena i precizno utvrđena definicija. Prema Ujedinjenim nacijama[1] (UN), govor mržnje obuhvata svaku vrstu komunikacije, bilo da je riječ o pisanoj, usmenoj ili bihevioralnoj komunikaciji, koja napada ili koristi pogrdan ili diskriminatoran jezik na osnovu identiteta osobe ili grupe. To može uključivati religiju, etničku pripadnost, nacionalnost, rasu i druge identitetske karakteristike. *Rasprostranjenost ovog problema ilustruju i podaci Eurostata[2], statističkog ureda Evropske unije, prema kojima se 54 % mladih, u dobi od 25 do 34 godine, tokom 2025. godine susrelo s neprijateljskim i degradirajućim porukama.
Suzbijanje govora mržnje dodatno otežavaju i promjene u politikama moderiranja sadržaja koje primjenjuju pojedine društvene mreže. Primjer je Meta Platforms, tehnološka kompanija u čijem vlasništvu su Facebook, Instagram i Threads, koja je 7. januara 2025. godine ugasila program za provjeru činjenica u Sjedinjenim Američkim Državama i uvela sistem Community Notes. Izmjene pravila moderiranja[3] koje je uveo Mark Zuckerberg, izvršni direktor Mete, proširile su prostor za izražavanje dehumanizirajućih poruka usmjerenih ka pojedincima ili grupama na osnovu njihovog identiteta. *Na primjer, iz popisa zabranjenih poruka, Meta je izbrisala stavku koja je branila nazivanje ili poređenje žena s „kućanskim objektima, imovinom ili objektima općenito“. Također, važno je istaći promjenu koja se ticala samopriznanja (self-admission) u kontekstu rasizma, homofobije i islamofobije. Riječ je o tome da sad AI alat više ne uklanja automatski izjave poput „Ja sam islamofob“ na Metinim platformama, već će moderatori, nakon što utvrde kontekst u kojem je napisana, odlučiti hoće li je izbrisati.
*Statistički podaci o moderaciji sadržaja potvrđuju primjenu novih odredbi na Metinim platformama[4]. U posljednjem kvartalu 2024. godine Meta je uklonila 7,4 miliona spornih objava s Instagrama i 5,8 miliona s Facebooka, dok je u istom periodu 2025. godine taj broj pao na 1,3 miliona objava po platformi. Prema podacima TikToka, 96,3 % uklonjenog sadržaja koji se odnosi na govor mržnje izbrisano je prije nego što su korisnici izvršili prijavu.
Zna li umjetna inteligencija kada nekog vrijeđamo na internetu?
Zahvaljujući obradi ogromnih količina tekstualnih podataka tokom procesa treniranja, AI alati razvijaju sposobnost da prepoznaju diskriminatorne izraze, uvrede i govor mržnje. Međutim, koliko god ovi sistemi djelovali napredno, stvarnost je daleko kompleksnija.
Fotografija 2. Sam Altman, izvršni direktor kompanije OpenAI, koja je lansirala popularni AI alat ChatGPT (Izvor: Getty Images)
Upravo to potvrđuju istraživači sa Univerziteta u Pennsylvaniji, koji su svoje nalaze objavili u publikaciji Findings of the Association for Computational Linguistics. U okviru ove studije analizirano je sedam alata umjetne inteligencije čiji je zadatak bila detekcija govora mržnje na internetu. Kao uzorak su obuhvatili 1,3 miliona izjava na engleskom jeziku, koje pored neutralnih izraza sadrže i pogrdne termine usmjerene protiv približno 125 demografskih grupa. Istraživači su analizirali izjave koristeći metod „faktorijalnog nacrta“, gdje algoritam automatski kreira sve moguće kombinacije definiranih elemenata rečenice. Rezultati empirijskog dijela upućuju na zaključak da se AI alati suočavaju s određenim problemima u pogledu prepoznavanja poruka koje sadržavaju govor mržnje[5]. U izjavi za britanski Independent, istraživač Neil Fasching upozorava na dramatične nedosljednosti uočene među analiziranim sistemima za moderiranje sadržaja. Riječ je o tome da neki sistemi označavaju sadržaj kao štetan, dok ga drugi smatraju prihvatljivim. Profesorica Univerziteta u Oxfordu dr. Sandra Wachter smatra da je provedeno istraživanje pokazalo kako je riječ o izuzetno kompleksnoj temi. Pritom smatra da tehnološke kompanije snose odgovornost za sadržaj koji se prikazuje na njihovim platformama. „Velike tehnološke kompanije snose veliku odgovornost“[6], zaključuje dr. Wachter.
Dakle, istraživanje Univerziteta u Pennsylvaniji ukazalo je na niz nedosljednosti u radu analiziranih sistema za prepoznavanje govora mržnje na internetu. Takvi sistemi koriste jezičke modele trenirane na velikim količinama podataka. No, kakve rezultate možemo očekivati kada se ovi alati susretnu s low-resource jezikom, odnosno jezikom s ograničenim digitalnim resursima?
Umjetna (ne)inteligencija
Low-resource jezici su jezici za koje ne postoji dovoljno digitalnih podataka potrebnih za treniranje AI alata. Međutim, nedostatak digitalnih resursa nipošto ne znači da je neki jezik kulturno manje bogat. U takve jezike, algoritamski „siromašne“, ubrajamo i amharski jezik. Amharski jezik pripada grupi semitskih jezika u koje ubrajamo arapski i hebrejski. Ovim jezikom se služe milioni govornika u Etiopiji[7], a koriste ga i oni koji žele zaobići sisteme za detekciju govora mržnje.
Fotografija 3. Primjer korištenja amharskog jezika na TikToku (Izvor: ISD Global)
*Amharski jezik se u svrhu zaobilaženja moderacije koristi na dva načina. Prvi, označen kao coded, podrazumijeva direktno izražavanje govora mržnje na amharskom jeziku. Drugi način, poznat kao bypass taktika, podrazumijeva korištenje amharskog jezika u kombinaciji s nekim od evropskih jezika. Preciznije, korisnici govor mržnje izražavaju na jednom od evropskih jezika, a zatim u istu poruku dodaju tekst na amharskom jeziku, ispisan ge'ez pismom, kako bi otežali automatsko prepoznavanje teksta.
*ISD (Institute for Strategic Dialogue) je primijetio ovaj fenomen prilikom ručnog prikupljanja poruka koje sadrže govor mržnje u evropskim zemljama. Tada su identificirali 134 komentara na društvenoj mreži TikTok koji su sadržavali govor mržnje ili uvredljiv sadržaj na amharskom jeziku, u prethodno opisana dva oblika. Analizirani komentari su objavljeni u periodu od maja do augusta 2024. godine, pri čemu je čak u 89 slučajeva engleski jezik kombinovan s amharskim. Od 134 pronađena komentara, ISD je primijetio da je od njih 116 napisano koristeći bypass taktiku. Izuzetno zabrinjavajući nalaz istraživanja odnosi se na izostanak reakcije platforme nakon ručnog prijavljivanja. Od 16 eksplicitnih primjera govora mržnje koje su istraživači ISD-a prijavili putem zvaničnog mehanizma evropskog Akta o digitalnim uslugama (DSA – Digital Services Act), TikTok je uklonio ili ograničio vidljivost za samo njih pet.
Pretjerano oslanjanje platformi na AI alate i ignorisanje eklatantnih primjera govora mržnje, već je utjecalo na živote govornika low-resource jezika. O ovome svjedoči slučaj Mearega Amarea, univerzitetskog profesora u Etiopiji koji je brutalno ubijen u novembru 2021. godine[8], nakon višemjesečne hajke korisnika na Facebooku. Ovo se dogodilo tokom oružanog sukoba na sjeveru Etiopije koji je trajao od novembra 2020. do novembra 2022. godine. Iako je njegov sin, Abrham Meareg, prijavljivao sporne poruke Facebooku, oni su ih uklonili tek poslije nemilog događaja. On je odlučio podignuti tužbu protiv Mete jer ih smatra saučesnicima u ubistvu svog oca. „Moj otac nije imao profil na Facebooku, ali je ubijen na Facebooku“, izjavio je Abrham Meareg za Amnesty International 2023. godine. Ova organizacija je provela istraživanje, a rezultati su ih uputili na zaključak da su Facebookovi algoritamski sistemi ubrzali širenje štetne retorike protiv tigrajske zajednice u Etiopiji, kojoj je pripadao i sam profesor. Kritičari i organizacije za zaštitu ljudskih prava ističu da Meta snosi odgovornost za eskalaciju sukoba u Etiopiji, prvenstveno zbog nedovoljnih ulaganja u moderaciju sadržaja na lokalnim jezicima[9].
Sigurnost nije zagarantovana jer direktno zavisi od toga koliko je nečiji jezik tehnološki „bogat“. Društvene mreže promovišu globalno zajedništvo, ali kako će ga osigurati ako ne poduzimaju korake ka obogaćivanju svojih resursa? Pravila o govoru mržnje jesu ista za sve, ali se sankcioniraju samo filtrirani slučajevi. Sve izvan toga je siva zona gdje algoritam šuti, a sila caruje.
Izvori:
[1] https://www.un.org/en/hate-speech/understanding-hate-speech/what-is-hate-speech
[2] https://ec.europa.eu/eurostat/web/products-eurostat-news/w/edn-20260618-1
[3] https://www.theguardian.com/technology/2025/jan/08/permitted-hateful-conduct-what-users-can-now-say-on-meta-platforms
[4] https://www.aljazeera.com/news/2026/6/18/why-do-ai-models-struggle-with-online-hate-speech-detection
[5] https://www.independent.co.uk/news/uk/home-news/ai-hate-speech-study-university-pennsylvania-b2826860.html
[6] Ibid.
[7] https://www.isdglobal.org/digital-dispatch/hidden-hate-how-amharic-is-being-used-to-evade-hate-speech-detection-on-tiktok/
[8] https://www.amnesty.org/en/latest/news/2023/10/meta-failure-contributed-to-abuses-against-tigray-ethiopia/
[9] https://www.amnesty.org/en/latest/news/2025/04/kenya-high-court-has-ruled-that-it-has-jusridiction-over-case-against-meta/
