Harari: Umjetna inteligencija i zašto možda čovječanstvo neće dočekati kraj ovog stoljeća

Izraelski povjesničar, pisac i filozof Yuval Noah Harari je u uvodu govora u Davosu 2020. rekao da se čovječanstvo suočava s tri egzistencijalna problema: nuklearni rat, ekološki kolaps i tehnološki poremećaj. I dok su čovječanstvu prve dvije prijetnje dobro poznate, tehnološki poremećaj koji se projicira kroz sve veću navalu umjetne inteligencije i njen ulaz u sve pore društvenog života, predstavlja najveću opasnost s kojom se čovječanstvo ikada susrelo. Harari odlazi toliko daleko da smatra da revolucija umjetne inteligencije koja se odvija nezamislivom brzinom ne predstavlja opasnost samo po demokraciju već i totalitarne režime. Nuklearna bomba ne može napraviti novu nuklearnu bombu i ne može sama odabrati metu koju će gađati, ali autonomija koju AI pokazuje mogla bi promijeniti sve što su ljudi tisućama godina radili. Da izraelski povjesničar nije samo katastrofičan paranoik koji na temelju pompoznih izjava promovira svoje knjige, najbolje je pokazala 'Bletchley deklaracija o umjetnoj inteligenciji' koju je 2023. potpisalo 30-ak država, uključujući Kinu, SAD, UK itd. Zemlje potpisnice priznale su da postoji potencijal za ozbiljnu, čak katastrofalnu štetu, bilo namjernu ili nenamjernu, koja proizlazi iz najznačajnijih mogućnosti modela umjetne inteligencije. 

 - AI je neviđena prijetnja čovječanstvu jer je prva tehnologija u povijesti koja može sama donositi odluke i stvarati nove ideje - uvjeren je Harari. On umjetnu inteligenciju zapravo naziva vanzemaljskom, ne zato što se radi o vanjskom fenomenu koju je došao iz radioaktivnih bespuća svemira, nego zato što AI promatra naše navike, ponašanja i potrebe te na temelju njih stvara sadržaj koji nam prezentira.  

- Kako AI evoluira, postaje manje umjetan (u smislu da ovisi o ljudskom dizajnu) i sve više vanzemaljski. Brojni ljudi pokušavaju izmjeriti i razumjeti AI na temelju ljudske inteligencije i pitaju se kada će ju AI dostići. To je pogrešno. To je kao da avion mjerite na temelju leta ptice. AI ne napreduje prema ljudskoj inteligenciji. Razvija se vanzemaljska vrsta inteligencije - rekao je Harari za Guardian. U brojnim intervjuima i predavanjima je naglasio uznemirujuće implikacije umjetne inteligencije i kako bi se mogli naći u situaciji da fenomen kojeg možda u potpunosti ne razumijemo i po kojim principima radi, odlučuje o našim životima. Iako je AI u tzv. 'embrionalnoj' fazi, računala već odlučuju i kreiraju naš život. Računala u neku ruku odlučuju hoćemo li dobiti kredit u banci, posao, hoćemo li završiti u zatvoru? Također, prodor AI može se vidjeti i u drugim sferama svakodnevnog života, kao što su glazba, umjetnost ili igranje šaha. Pa čak su se i u Hrvatskoj pojavili slučajevi gdje su učenike razotkrili da koriste ChatGPT kako bi napisali zadaću ili lektiru.  

- Možemo li računalnim algoritmima vjerovati da će donositi mudre odluke i stvoriti bolji svijet? AI je već sposoban sam proizvoditi umjetnost i stvarati znanstvena otkrića. U sljedećih nekoliko desetljeća, vjerojatno će steći sposobnost čak i stvaranja novih oblika života, bilo pisanjem genetskog koda ili izmišljanjem anorganskog koda - predviđa Harari. Iako je nekoliko puta ponovio da AI ima pozitivne strane, objasnio je da su one više-manje jasne i istražene, a da je na ljudima da se okrenu negativnim aspektima jer ih u dobroj mjeri ne možemo ni razumjeti. Uvjeren je da su prve žrtve AI-a i orvelovskog svijeta koji nam prijeti u budućnosti, već ovdje na zemlji. Tako Izrael gradi sve veću mrežu nadzornih kamera u Zapadnoj obali kako bi što lakše kontrolirali i zatvarali 'neposlušne' Palestince. U Iranu kamere vrše svakodnevan nadzor nad ulicama gradova. Tako pazdarani i vjerske policije za moral mogu puno lakše vidjeti nose li žene hidžab ili ne. Ali, tu se za sada radi samo o oruđu, a ljudi su ti koji donose konačne odluke. AI bi to u budućnosti mogao promijeniti.

 - Najvažnija stvar kod umjetne inteligencije je da nije samo alat ili oruđe. Neki ljudi često poistovjećuju AI revoluciju s tiskarskom revolucijom, izumom pisane riječi ili pojavom masovnih medija kao što su radio i televizija, ali to nije isto. Sve dosadašnje informacijske tehnologije bile su samo alati u ljudskim rukama. Čak i kad je tiskarski stroj izumljen, ljudi su još uvijek bili ti koji su pisali tekst i odlučivali koje će se knjige tiskati. Sama tiskara ne može ništa napisati, niti može birati koje će knjige tiskati. AI je, međutim, bitno drugačiji, on sam može pisati knjige i odlučiti koje će ideje širiti - objasnio je Harari u intervju za Wired. Dodatan problem predstavlja činjenica da AI može stvoriti potpuno nove ideje koje su ljudima nepoznate, nešto s čime se čovječanstvo nije susrelo do sada. Iz njegovih predavanja i bestsellera kao što su: 'Sapiens: Kratka povijest čovječanstva', 'Homo Deus: Kratka povijest sutrašnjice' ili 'Neksus: Kratka povijest informacijskih mreža od kamenog doba do AI-a', može se iščitati šest opasnosti koje umjetna inteligencija predstavlja čovječanstvu.

1. Automatizacija umjetne inteligencije. Ruku na srce ljudi su već imali sličnih iskustva. Golema količina profesija više ne postoje ili su na izdisaju, prvo nastankom industrijske revolucije, a kasnije napretkom tehnologije. Ali, AI predstavlja puno veću prijetnju. Jednostavno bi cijele industrije i sektori mogli pasti pod upravljačku kontrolu par superračunala koji u kraćem periodu mogu obavljati poslove za koje su potrebne desetine ili stotine sati, Važno je nadodati i mokri san većine poslodavaca, AI ne jede, ne pije, ne treba na bolovanje, ne treba na porodiljni, ne treba spavati i jednostavno nema biološka i emocionalna ograničenja i potrebe koje dijele čovjeka od robota. Zamjena radnika umjetnom inteligencijom dovela bi do eksplozije siromaštva i ekonomske nejednakosti. Mala grupa bogatih i njihova umjetna inteligencija bi profitirala, a velika većina bi završila na ulici.

2.  Tehnološki totalitarizam. Priče o društvenom rejtingu građana u Kini obišle su svijet. Harari smatra bi vlade i korporacije uz pomoć umjetne inteligencije mogle stvoriti totalitarne režime. U njima bi se kontrolirao svaki aspekt života putem nadzora, praćenja podataka i algoritama. Kombinacija umjetne inteligencije i dostupnih podataka o ljudima mogla bi režimima omogućiti predviđanje i suzbijanje građanske neposlušnosti prije nego što se ona uopće dogodi i prelije na ulice u vidu prosvjeda i demonstracija.

3.Gubitak privatnosti. Što više podataka umjetna inteligencija prikupi, to će lakše vlade i korporacije  manipulirati ljudima, predvidjeti njihove odluke ili čak oblikovati njihove želje. Za sada je sve na algoritmu na YouTubeu i društvenim mrežama koji nas 'bombardiraju' sadržajem koje želimo vidjeti. No, već i sada kada je AI kako je Harari rekao u embrionalnoj fazi, mogu se dogoditi situacije da su algoritmi toliko precizni da nam se čini kao da nas netko prisluškuje, cijelo vrijeme prati i točno zna što želimo kupiti, kakvu glazbu volimo slušati i filmove gledati. S moćnim algoritmima, tehnologijama prepoznavanja lica i stalnim nadzorom, privatni životi pojedinaca mogli bi biti izloženi dosad neviđenim razinama nadzora. Ovo ne samo da ugrožava osobne slobode, već bi također moglo dati korporacijama ili vladama moć da kontroliraju ponašanje na temelju podataka koje prikupljaju o mislima, navikama i postupcima ljudi. 

4. Lažne vijesti i manipulacije. Harari je rekao da kada razgovara s nekime, a nije u stanju razaznati razgovara li s čovjekom ili umjetnom inteligencijom, tu demokracija prestaje. Pojavom deepfakea i sve većim napretkom umjetne inteligencije, sve je teže razaznati istinu od manipulacije. Već su se dogodili uznemirujući slučajevi, čak i među djecom kada se uz pomoć deepfakea i umjetne inteligencije ljude dovodilo na stup srama tako što bi se uz pomoć AI-a pravile lažne eksplicitne fotografije i videi. Harari upozorava da mogućnost stvaranja realističnih lažnih videa, vijesti ili objava može dovesti do manipulacije javnim mnijenjem, političkim izborima, pa čak i društvenim pokretima. Tu bi se na udaru mogli pronaći i mediji jer nažalost umjetna inteligencija ostavlja ogroman prostor za manipulaciju.

5.Visoka inteligencija. Harari je uvjeren da kada AI prestigne ljudsku inteligenciju, postat će nekontroliran. 

6. Financijska kriza. Iako financijski sektor već sada koristi AI za analizu podataka, trgovanje dionicama i predviđanje tržišnih kretanja, Harari smatra da automatizirano trgovanje i algoritamske odluke mogu povećati nestabilnost tržišta i izazvati nepredvidljive šokove. Upozorio je da bi neregulirani AI algoritmi mogli pokrenuti financijske krize jer bi sustavi mogli donijeti odluke koje su vođene samo profitom i kratkoročnim ciljevima, bez obzira na dugoročne posljedice za globalnu ekonomiju. Umjetna inteligencija bi mogla dovesti do brze i masovne promjene cijena što bi moglo izazvati globalnu financijsku nestabilnost ili čak kolaps, poput globalne financijske krize 2008. godine, ali uz puno veće posljedice.

Harari, koji ove godine stiže u Hrvatsku, rekao je da je sve još uvijek u rukama čovječanstva i da AI ne mora nužno biti kraj za ljudsku vrstu. Ipak, potrebne su brojne regulative i pravila kako nam se u budućnosti ne bi ponovila situacija iz potresom porušenog Mjanmara. Facebook je godinama bio ‘internet’ i ultimativna istina u Mjanmaru.  S vremenom su Zuckerbergovi algoritmi hinduističkoj većini u zemlji počeli prikazivati brojne teorije zavjera o muslimanskoj manjini Rohinje u koje su povjerovali brojni građani. To je na kraju dovelo do etničkog čišćenja u kojem je preko milijun Rohinja završilo u Bangladešu.

Yuval Noah Harari gostovat će u Zagrebu 23. listopada 2025. u Koncertnoj dvorani Vatroslav Lisinski.