Strah od vještačke inteligencije

Plaši li vas vještačka inteligencija? Mnogi ozbiljni ljudi više su nego zabrinuti, vode se ozbiljne akademske rasprave u koje se uključio i Evropski parlament. Šta ih je toliko uplašilo?

Strah od vještačke inteligencije u čovjeka je usađen posredstvom njegove vlastite mašte. Sjetimo se par najpoznatijih primjera. Karel Čapek je 1921. godine napisao dramu “R.U.R”, u kojoj se roboti bune protiv svojih tvoraca. Arthur Clark 1968. godine piše roman “Odiseja u svemiru” u kojem se sveznajuća vještačka inteligencija okreće protiv ljudi. Proširenjem matrice ova dva primjera nastao je veliki broj knjiga i filmova. U ovom iznimno površnom podsjećanju ipak moram pomenuti i Philipa K. Dicka koji je dojmljivo problematizirao odnos čovjeka i njegove vještačke kreacije.

TRI ZAKONA ROBOTIKE

Isaac Asimov uveo je red u tu oblast i napisao Tri zakona robotike. Prema prvom zakonu, robot ne smije da povrijedi čovjeka ili da svojom neaktivnošću dozvoli da čovjek bude povrijeđen, drugi zakon propisuje da  robot mora izvršavati naređenja koja mu daju ljudi, osim kada su takva naređenja u sukobu sa Prvim zakonom, a treći zakon kaže da robot mora štititi svoju egzistenciju sve dok takva zaštita nije u sukobu s Prvim i Drugim zakonom. Nakon izvjesnog vremena, ne znam zašto, Asimov dodaje i nulti zakon prema kojem robot ne smije da ugrozi čovječanstvo ili da svojom neaktivnošću dozvoli da čovječanstvo bude ugroženo.

Prije dvije godine Evropska unija proširuje njegov zakon i usvaja Akt o umjetnoj inteligenciji. Ovim aktom Evropski parlament želio je osigurati, kako kažu, da sistemi vještačke inteligencije budu sigurni, transparentni, da ne diskriminiraju, da se mogu pratiti i da su ekološki prihvatljivi.

Prema ovom aktu, u Evropskoj uniji je zabranjena primjena vještačke inteligencije koja uključuje kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama, poput glasom aktiviranih igračaka koje potiču opasno ponašanje kod djece, onda bodovanje uz pomoć AI: klasifikaciju ljudi na temelju ponašanja, socioekonomskog statusa, osobnih obilježja, biometrijska identifikacija i kategorizacija fizičkih osoba, biometrijski nadzor u stvarnom vremenu, kao što je prepoznavanje lica na javnim mjestima… Ne znam da li ste znali, ja nisam uočio nikakve promjene na mom telefonu, ali zabrana sistema vještačke inteligencije koji uključuju ove rizike, u Evropskoj uniji primjenjuje se od drugog februara 2025. godine.

To nisu svi rizici, upozoravaju naučnici pa kao najveće nedostatke vještačke inteligencije navode nemogućnost razumijevanja konteksta, nedostatak etike, socijalne inteligencije i empatije. Što, navodno, čovječanstvo posjeduje. Zbog toga je u aktu Evropskog parlamenta naglašeno da AI sisteme moraju nadzirati ljudi kako bi se spriječili štetni ishodi. Tu, siguran sam, leži najveći problem.

ČOVJEK JE NAJOPASNIJI ROBOT

Bez obzira na razvoj tehnologije, jedini stvor kojeg se zaista treba plašiti na planeti, ostaje čovjek. Zaista ne znam kako funkcioniše vještačka inteligencija i ne mogu pojmiti sistem algoritama uz pomoć kojeg radi, ali mi je prilično jasno kako funkcioniše današnje čovječanstvo. Ne vidim da ga brine etika niti pokazuje empatiju, a to su nedostaci koji se zamjeraju vještačkoj inteligenciji. U Gazi svakodnevno ubijaju palestinske civile u redovima za hranu i djecu izgladnjuju do smrti. Čak i najprimitivniji robot, marke Obodin, sa dva strujna kola, reagovao bi na osnovu nultog zakona i ne bi dozvolio da se na tako ponižavajući način ubija čitav narod.

Čovjek na poziciji moći u stanju je sebi prilagoditi svaki zakon, sa ovoga ili onoga svijeta. Ograničio je djelovanje vještačke inteligencije, ali nikako mu ne ide od ruke da zaustavi genocid. Čovjek lako pronađe opravdanje za svaku gadost koja mu ide u prilog. Od mašina traži da ne diskriminiraju, dok je istovremeno on u toj disciplini šampion.

S druge strane, vještačkoj inteligenciji svako toplokrvno biće trebalo bi biti jednako. Naučnici tvrde da algoritam ne razumije kontekst, što je odlično, jer ga nije briga za geopolitiku, ravnotežu moći, istorijske odnose, rasne, klasne, spolne i sve ostale razlike koje smo namaštali. AI ne zna šta je vjekovna težnja, ne vidi problem u razlici među religijama, ne smeta mu ni sveto ni profano… Za čestitog robota to su samo trivijalnosti koje odbacuje jer mu se ne uklapaju u račun, za njega su sve agresije i okupacije jednake, zna tačno šta je prekoračenje nužne odbrane, šta je civilna žrtva a šta ratni zločin. Vještačka inteligencija bi odmah prepoznala genocid, na samom začetku.

Zbog toga, što se mene tiče, spreman sam, bez ikakvih ograda, prepustiti se svakom raspoloživom sistemu vještačke inteligencije. Sit sam ljudskog merhametluka. Okuj me robote. (Selvedin Avdić, Žurnal.info)

Bezos u Veneciji

 U nedelju ujutru sam se zanela u vesti o predstojećem venecijanskom venčanju Džefa Bezosa, direktora Amazona. Ali ubrzo me je obuzeo razdražujući egzistencijalni osećaj da bi trebalo da radim nešto drugo – na primer da najzad završim čitanje Danijela Deronde Džordž Eliot.

Vabbè!¹ Fascinirana sam uvek prgavim žiteljima Venecije i njihovim protestima protiv Bezosa. Ono malo preostalih meštana negoduje zato što treći najbogatiji čovek na svetu planira da se oženi TV voditeljkom Loren Sančes u njihovom gradu. Naši uzani kanali su premali za takvu navalu zvanica, kažu oni. Grad je suviše mali, suviše velika svetinja, suviše opterećen turistima. Kanaređo je mnogo više od bogataškog igrališta, dodaju, ali greše – očigledno je upravo to svrha Venecije još od 12. veka.

Uporni demonstranti su obmotali zvonik crkve San Đorđo Mađore transparentom na kome piše „Ne Bezosu“. Slični plakati su preplavili grad. Građanska aktivistkinja Marta Sotoriva izjavila je za Guardian: „Ovo venčanje je simbol svega što uništava Veneciju.“ Za takvom hiperbolom može da posegne samo neko iz grada koji sebe slavi kao La Serenissima (najveličanstvenija).

U poslednjem trenutku Bezos je navodno promenio mesto venčanja. Bilo je planirano da se ono održi u zdanju Skuola Grande dela Mizerikordija iz 16 veka, ali je grupa demonstranata „Nema mesta za Bezosa“ zapretila da će gostima blokirati ulaz i da će napuniti kanal krokodilima na naduvavanje.

Naravno, Bezosovo venčanje je dušu dalo za takav tretman na mestu gde se visoki snobizam prema novim bogatašima ukršta sa postimperijalnom setom i duboko ukorenjenom sumnjičavošću prema Americi. „Bilo ko, samo ne Jenki“ je refren koji uvek ujedinjuje Evropu.

Nepobitna je istina da ne treba prljati Veneciju, reprezentativni izlog Italije, nečim tako budalastim kao što je venčanje slavnih (to nije uspelo ni Džordžu i Amal Kluni 2014). Ali ćudljivi i cerebralni grad iz Hemingvejeve imaginacije nikad nije ni postojao u pravom smislu, a Venecija je već dugo kič tematski park za odrasle, sa 70% boljom umetnošću i 100% gorom hranom.

Ako želite da saznate nešto o Veneciji treba da čitate Džen Moris, a ne mene. Ipak, nisam propustila nijedan insajderski izveštaj o ovom venčanju veka, iako moje poznavanje Džordž Eliot trpi veliku štetu zbog toga. Navodim druga venčanja koja su se okitila tom oznakom: udaja Grejs Keli za princa od Monaka 1956, Čarls i Dajana 1981, Kejt i Vil 2011, Kim i Kanje 2014, skromna svadbena žurka od 600 miliona dolara za sina najbogatijeg čoveka Indije 2024. Oštroumni čitalac će se složiti sa mnom da ovo nisu uvek bili uspeli događaji.

Ali svi oni imaju nešto zajedničko. Uvek ih prati isti glupi komentar: „To više nema veze sa ljubavlju.“ Na šta ja kažem – više? U dugoj, podrobno istraženoj istoriji braka taj emocionalni zahtev, drugim rečima – ljubav, nov je element. Svih šest „venčanja stoleća“ više liče na Trampovu vojnu paradu nego na venčanje dvoje ljudi u nekoj gradskoj opštini. U pitanju je konsolidacija estetske moći i imperijalne ambicije. Ljubav? Koješta.

Ne želim da branim venčanje Bezosa, sile kosmičkog mraka, i Sančes, žene koja uvek nosi premalu odeću. Ali u moru samozadovoljnih esteta koji iskazuju prezir prema tom događaju prosto osećam da moram reći: teško da je to prvo ružno venčanje u romantičnim hronikama. Nije čak ni prvo u Veneciji. Uz nekoliko plemenitih izuzetaka, venčanja naginju lošem ukusu.

U stvari „loš ukus“ možda nije tačan opis. Evo šta je arhetip: sediš u pregrejanom šatoru u nekom polju koje je, iz nekog razloga, vrlo daleko od kuće; serviraju ti rostbif spretno kao konji; nižu se govori, predugi i puni otrcanih viceva ili tako otužno sentimentalni da ti pripadne muka; vino je mlako. Ako baš moram sve to da istrpim zbog dragog para, neka bar dekor bude Veronezeov. (Finn McRedmond, The New Statesman, za Peščanik prevela Slavica Miletić)

Čovjek i pas

Odnos čovjeka i psa velika je historijska priča o kojoj su ispisane brojne lijepe knjige i pjesme, snimljeni dopadljivi i dirljivi filmovi, napravljeni divni glazbeni aranžmani. Ukratko, motivirajuća i inspirativna tema koju vrijeme naprosto ne može potrošiti. I tako do današnjih dana kada su nam psi, u jednom značajnom dijelu svijeta, postali i više od kućnih ljubimaca

Ne znam za vas, ali meni je prizor čovjeka i psa u šetnji jedan od romantičnijih i ljepših koji se mogu vidjeti u urbanom okruženju grada. Pritom je potpuno svejedno radi li se o druženju starije gospođe i njenog usporenog mezimca, mlađem muškarcu sa psom nabrijanije sorte, ili o djeci-tinejdžerima za koje su roditelji dobro procijenili da će im iskustvo brige i odgovornosti za lijepog labradora dobro doći za izazove života što su pred njima.

I ne, ne može mi takav doživljaj pokvariti ni neodgovorno ostavljen, nepokupljen pseći drek na nogostupu na koji povremeno nalijećemo, ni problematično osjetljivi, a potencijalno drski i agresivni cuckaroši. Sve su to ljudske stvari. Prema nekim procjenama, oko pola milijarde pasa na svijetu ima status kućnog ljubimca.

Nema točnih evidencija i registara o broju kućnih ljubimaca, pa tako ni pasa, u Hrvatskoj, ali prema podacima udruge Prijatelji životinja koji se mogu pronaći na internetu, prošle je godine u Hrvatskoj bilo preko pola milijuna pasa, od čega oko 70 posto mikročipiranih, dakle uvedenih u bazu, iako je to zakonska obaveza svakog skrbnika udomaćene životinje već duže od dvadeset godina.

Isto kao što je već godinama zabranjeno držati pse vezane za lance u dvorištima. Praksa je to kojom oni neminovno podivljaju, ali je još uvijek moguće naletjeti na takvu odvratnost. Posebno je to osjetljivo kada problem stavimo u kontekst, a kontekst je takav da psi sa ljudima žive, naravno na različite načine, već duge hiljade godina. To je jedna velika epizoda evolucije.

Načini njihovog približavanja čovjeku, pripitomljavanja, funkcije i aktivnosti koje su ih zapale u takvom odnosu, sve ih je to mijenjalo i transformiralo kao vrstu, ali istovremeno, možda ništa manje, mijenjalo je i čovjeka. Odnos čovjeka i psa velika je historijska priča o kojoj su ispisane brojne lijepe knjige i pjesme, snimljeni dopadljivi i dirljivi filmovi, napravljeni divni glazbeni aranžmani.

Ukratko, motivirajuća i inspirativna tema koju vrijeme naprosto ne može potrošiti. I tako do današnjih dana kada su nam psi, u jednom značajnom dijelu svijeta, postali i više od kućnih ljubimaca. Sada su to nerijetko članovi obitelji sa svojim pravima, nešto malo manje s obavezama.

Volimo ih i pazimo kao i ostale ukućane, svađamo se i mirimo s njima, nerijetko nas naljute i razbjesne, ali im opraštamo. Jer je specifična ljubav na djelu, bezuvjetna, drugačija od one međuljudske. Smatram da je sve to, cijelu tu složenu i prahistorijsku priču o jednom takvom odnosu, moguće prepoznati i iščitati na malom banalnom uzorku – spomenutom prizoru rituala šetnje čovjeka i njegovog psa, to jest psa i njegova čovjeka.

Jer tko tu koga šeta – da spomenem staru enigmu na ovu temu koja je stekla status poslovične trivije – najmanje je bitno. Zapravo, potpuno je nevažno. Njih su dvoje jedno biće.  (Hajrudin Hromadžić, Novosti)