Jednom je bh. književnik i novinar Ozren Kebo primijetio kako je svaki put kada kažemo da treba odvojiti lik i djelo, u pitanju – nedjelo.
Briljantno je kako to razotkriva ljudske zablude i svodi ih na ono najosnovnije i najteže za prihvatiti: istinu u lice.
Jedna od tih istina bila bi i ona koja se tiče inteligencije, najprije ljudske pa onda i ove koja oponaša i pretiče ljudsku – umjetna, vještačka, inteligencija mašine. Nazovite je kako god želite.
Nije algoritam izmislio mučilište
Čovjek, koji više pati zbog svog osjećaja jada nego zbog stvarne nesreće, ostao je zbunjen i bez reakcije. Pretvarao se da ima sposobnosti koje nema, a zanemario je snagu svoje savjesti i odgovornost za svoja djela, odnosno kako je istaknuto na početku – nedjela.
Ako želimo nastaviti u istom registru, sve više postaje jasno da se inteligencija ne može posmatrati odvojeno od savjesti, niti znanje odvojeno od odgovornosti. Ne nužno kao pametniji smo nego ikad, nego kao nikada nismo imali manje opravdanja za vlastita nedjela.
Inteligencija je, pokazalo se, najprecjenjenija ljudska osobina. Od nje su nastajali logori jednako kao i biblioteke, atomske bombe jednako kao i simfonije. Nije čovjeka od barbarstva dijelila pamet, nego granica koju je sebi postavljao onda kada je mogao sve, a nije učinio svašta.
Zato je smiješna panika pred umjetnom inteligencijom; mašina jeste naučila misliti brže od čovjeka, no ono što nikada nije bilo sigurno jeste da čovjek misli dovoljno dobro da bi zaslužio monopol nad savješću.
Uostalom, nijedan algoritam nije izmislio mučilište. I to je povijesno tačno, ali protivnik bi odmah odgovorio da algoritam nije ni imao priliku da ga izmisli. Pa ipak, nijedna neuronska mreža nije pokrenula rat iz sujete, nijedan model nije odlučio da je tuđi život prihvatljiva kolateralna šteta za vlastitu ideju veličine. Sve su to autorska prava čovjeka.
I možda je najveća ironija epohe što se plašimo da će mašina postati previše ljudska, dok uporno odbijamo priznati šta je ljudskost – bez uljepšavanja – već odavno postala.
Režim istine
Čovjek nije biće koje misli, već biće koje racionalizira. Razlika je golema. Misliti znači približavati se istini; racionalizirati znači proizvoditi argumente za vlastite slabosti. Zato je historija prepuna genija i oskudna mudracima, te zbog toga inteligencija bez savjesti nije viši oblik čovjeka – to je samo efikasniji oblik katastrofe.
Nismo precijenili umjetnu inteligenciju. Precijenili smo ljudsku. Razlika između njih neće se mjeriti količinom znanja, nego količinom odgovornosti koju je svaka sposobna podnijeti.
Ali pitanje savjesti nije samo pitanje pojedinca. U modernim društvima ono postaje pitanje institucija, sistema i tehnologija koje oblikuju naše odluke, i tu rasprava o inteligenciji prelazi iz etike u politiku.
Kako je pisao Michel Foucault u Power/Knowledge, istina nije neutralna kategorija, nego “režim istine” – sistem procedura koji određuje šta se uopšte može smatrati istinitim, ko ima pravo da govori istinu i kroz koje institucije ona cirkuliše. Problem, prema njemu, nije samo u sadržaju ideologije, nego u samoj infrastrukturi proizvodnje istine: političkoj, ekonomskoj i institucionalnoj mreži moći koja oblikuje znanje.
Drugim riječima, pitanje nije samo šta je istina, nego ko kontroliše mehanizme njenog nastanka.
Ako se ta linija misli prenese u savremeni tehnološki kontekst, postaje jasno da algoritmi, podaci i digitalne infrastrukture danas zauzimaju upravo tu ulogu – ulogu sistema koji ne samo da prenose informacije, nego određuju okvir u kojem se istina uopšte može pojaviti.
Rat za kontrolu podataka
U 20. stoljeću imperije su gradile moć kroz okupaciju teritorija, kontrolu pomorskih puteva i nuklearne arsenale. U 21. stoljeću centar gravitacije moći pomjera se prema nečemu mnogo manje vidljivom, ali potencijalno mnogo uticajnijem: podacima, algoritmima i digitalnoj infrastrukturi. Ono što danas nazivamo umjetnom inteligencijom nije samo tehnološka inovacija – to je nova politička ekonomija moći.
Dokumentarac The Coming War on China Johna Pilgera prikazuje geopolitički sukob između Sjedinjenih Američkih Država i Kine kao dugoročan proces strateškog okruživanja, vojnog pozicioniranja i tehnološkog nadmetanja. Iza retorike globalizacije, slobodne trgovine i međunarodne saradnje, Pilger vidi svijet u kojem se Pacifik pretvara u centralno geopolitičko poprište našeg vremena. Kina nije izazov samo zbog svog ekonomskog uspona, već što dovodi u pitanje poredak u kojem je američka dominacija decenijama predstavljala osnovu globalnog sistema.
Međutim, ono na što Pilger ukazuje kroz ešalon vojnih baza, nosača aviona i raketnih sistema samo je jedan dio šire transformacije. Pravi rat više se ne vodi samo za more, vazduh ili teritoriju. Vodi se za infrastrukturu percepcije, za kontrolu podataka, za kontrolu načina na koji društva vide, tumače i razumiju svijet.
Najjasniji simbol tog povijesnog prelaza bio je Stuxnet.
Kompjuterski crv umjesto marinaca
Kada je 2010. godine otkriven sofisticirani kompjuterski crv koji je sabotirao iranska postrojenja za obogaćivanje uranijuma, svijet je prvi put vidio novu paradigmu sukoba. Iako odgovornost nikada nije službeno priznata, brojni istraživači povezuju operaciju sa zajedničkim američko-izraelskim programom poznatim pod nazivom Olympic Games. Za razliku od klasičnog oružja, Stuxnet nije eksplodirao niti je ispalio projektil, nego se infiltrirao u industrijske kontrolne sisteme i natjerao centrifuge da same sebe unište.
Značaj ovog događaja prevazilazi tehničku dimenziju. Stuxnet je označio trenutak u kojem je softver postao strateško oružje sposobno da proizvede fizičku destrukciju bez objave rata, bez vojne invazije i bez prisustva vojnika na terenu. Granica između digitalnog i fizičkog prostora počela je nestajati i kod je postao oružje.
A kada kod postane oružje, sljedeće pitanje više nije kako uništiti infrastrukturu protivnika, već kako upravljati informacijama, percepcijama i odlukama čitavih društava.
I tu počinje priča o umjetnoj inteligenciji.
Koncentracija postojećih odnosa moći
Većina javnih rasprava o AI-u svodi se na pitanja automatizacije rada, autonomnih vozila ili mogućnosti da sistemi poput LLM-a zamijene određena zanimanja. Takve rasprave često zapostavljaju suštinsko pitanje: pitanje moći.
U knjizi Atlas of AI, autorica Kate Crawford odbacuje predstavu o umjetnoj inteligenciji kao neutralnoj tehnologiji. AI, prema njenoj analizi, nije izolovani skup algoritama, već dio mnogo šire infrastrukture koja uključuje eksploataciju prirodnih resursa, masovno prikupljanje podataka, energetski intenzivne podatkovne centre, nadzorne sisteme i koncentraciju političke i ekonomske moći.
Da bi umjetna inteligencija postojala, potrebni su rudnici litijuma u Južnoj Americi, kobalt iz Demokratske Republike Kongo, globalne mreže servera i milioni ljudi čiji se podaci svakodnevno pretvaraju u sirovinu za treniranje algoritama. AI nije proizvod budućnosti, ona je koncentracija postojećih odnosa moći.
Upravo zato je pogrešno posmatrati rivalstvo između Kine i Sjedinjenih Država, ili Irana i Sjedinjenih Država, ili neke druge rudama bogate zemlje i Sjedinjenih Država kao klasični geopolitički sukob. Današnje nadmetanje nije samo utrka za teritoriju, trgovačke rute ili vojne baze. To je borba za kontrolu infrastrukture kroz koju protiču informacije, znanje i društvena koordinacija.
Država koja kontroliše satelitske mreže kontroliše navigaciju. Država koja kontroliše cloud infrastrukturu kontroliše protok podataka. Država koja prednjači u razvoju najnaprednijih AI sistema stiče sposobnost da brže obrađuje informacije, modelira ponašanje i donosi odluke u sve složenijim okruženjima.
U tom smislu, umjetna inteligencija postaje produžetak geopolitičke moći.
Snaga u nevidljivosti
Veza između Pilgerove analize i Crawfordine kritike nalazi se upravo u pojmu infrastrukture. Pilger govori o mreži vojnih baza koje okružuju Kinu, dok Crawford govori o mreži podatkovnih centara, senzora i algoritama koji impregniraju svakodnevni život. U oba slučaja riječ je o sistemima čiji je cilj projekcija moći kroz kontrolu prostora – fizičkog ili digitalnog.
Najveća snaga savremenih algoritamskih sistema nije njihova vidljivost nego upravo njihova nevidljivost. Nuklearna raketa demonstrira moć eksplozijom, dok algoritam demonstrira moć tako što postaje dio svakodnevice i ne pojavljuje se kao prijetnja; pojavljuje se kao infrastruktura.
Sličnu dijagnozu razvija i Byung-Chul Han, koji tvrdi da savremena moć više ne funkcioniše prvenstveno kroz zabrane, već kroz dobrovoljno učestvovanje u sistemima nadzora i samootkrivanja. Digitalne platforme ne prisiljavaju pojedince da proizvode podatke; one ih podstiču da to čine sami. Upravo zbog toga algoritamska moć postaje teže vidljiva i teže osporiva.
Kada algoritmi utiču na to koje ćemo informacije vidjeti, koje ćemo sadržaje smatrati relevantnim, koje će osobe biti predmet nadzora ili koje će ciljeve vojni sistemi označiti kao legitimne, tada više ne govorimo samo o tehnologiji – govorimo o političkoj organizaciji društva.
Zbog toga neki budući sukobi velikih sila možda neće nalikovati ratovima prošlog stoljeća; neće ih nužno obilježiti rovovi, masovne kopnene invazije ili otvorene objave rata. Mogu početi kompromitovanjem komunikacijskih mreža, napadima na energetsku infrastrukturu, manipulacijom informacijskog prostora ili autonomnim sistemima koji djeluju brže nego što ljudi mogu reagovati.
Rat budućnosti možda neće započeti ispaljivanjem prve rakete, možda će započeti kompromitovanjem jednog algoritma.
Ko odlučuje šta vidimo
Stuxnet je pokazao da digitalni kod može uništiti mašinu. Savremena umjetna inteligencija pokazuje da algoritmi mogu oblikovati društvene procese na dosad nezamislivim razmjerama. A geopolitičko rivalstvo između Kine i Sjedinjenih Država pokazuje da će kontrola digitalne infrastrukture vjerovatno biti jedno od ključnih pitanja 21. stoljeća.
Zato se najvažnija rasprava o umjetnoj inteligenciji ne vodi između tehnoloških optimista i pesimista. Ona se vodi između onih koji AI posmatraju kao neutralan alat i onih koji razumiju da je riječ o novoj infrastrukturi globalne moći.
Ove promjene ne znače samo transformaciju vojne strategije nego i transformaciju same strukture društva. Manuel Castells opisuje savremeni svijet kao “mrežno društvo” u kojem su tokovi informacija postali ključni izvor ekonomske, političke i kulturne moći. U takvom okruženju jasno je da kontrola mreža postaje jednako važna kao što je nekada bila kontrola teritorije, i da se geopolitičko rivalstvo velikih sila sve više odvija kroz borbu za komunikacijske infrastrukture, podatkovne centre, satelitske sisteme i kapacitete umjetne inteligencije.
Pitanje našeg vremena nije mogu li mašine misliti; pitanje je ko posjeduje sisteme koji određuju šta će ljudi vidjeti, znati i smatrati istinom.
U svijetu u kojem su podaci postali strateški resurs, a algoritmi instrumenti upravljanja, umjetna inteligencija više nije samo tehnološko pitanje. Ona je političko pitanje par excellence; u svom (ob)liku i (ne)djelu.
