Za početak, možete li nam ukratko objasniti što konkretno podrazumijevate pod “algoritmizacijom liberalne demokratije”?
Dobro pitanje. Mislim, kada govorimo o algoritmizaciji liberalne demokratije, mislimo na proces u kojem tehnološke prekretnice, kao što je razvoj umjetne inteligencije, počinju da mijenjaju same temelje društvenog i političkog poretka. Primjera radi, motor s unutrašnjim sagorijevanjem značajno je promijenio način na koji društvo funkcioniše, ali nije izmijenio osnovne principe političke organizacije. Slično je i s prelaskom s luka i strijele na pušku, ratna tehnologija se promijenila, ali strategije i taktike ratovanja su ostale iste.
Međutim, umjetna inteligencija je prvi tehnološki napredak, civilizacijski pomak koji ima potencijal da transformiše gotovo sve aspekte ljudskog života, uključujući i same temelje liberalne demokratije. U društveno-političkom smislu, liberalna demokratija počiva na ideji suvereniteta pojedinca. Ali ako danas vidimo da algoritmi putem pametnih telefona, to jest “crnih kutija”, oblikuju naše percepcije, izbore i ponašanja, onda svjedočimo algoritmizaciji nosilaca suvereniteta. Time dolazi do algoritmizacije života pojedinca, a time i same liberalne demokratije.
Koje su ključne implikacije „post-istine“ na donošenje političkih odluka u liberalnim demokratijama?
Ponovo pričamo o pojedincu. Pojedinac je izložen obilju informacija, jednostavno nema više filtera kroz koji te informacije moraju proći jer se nije moglo pričati u javnom prostoru o bilo čemu što nije provjereno. Prije su informacije prolazile kroz nekadašnje uredničke ili institucionalne mehanizme koji su barem djelimično provjeravali tačnost onoga što ulazi u javni prostor. Naravno, to nije bio sistem koji je bio hermetički i potpuno zatvoren pa da neistine nisu mogle procuriti, ali su postojali određeni pragovi provjere. Znači, u post-istinitoj eri informacije se šire bez ikakvih posredovanja, a rezultat toga je paradoks: čak i istinite informacije djeluju sumnjivo jer više ne postoji konsenzus o tome šta je istina. Pojedinac gubi svaki orijentir. Kada to stavimo u kontekst donošenja političkih odluka, dobijamo veoma opasnu situaciju: ako je percepcija da ništa nije istinito, a samim tim i pouzdano, onda se odluke više ne temelje na činjenicama, već na emocijama ili algoritamskim manipulacijama. Naravno da to ozbiljno podriva osnovne mehanizme racionalne deliberacije u liberalnim demokratijama.
Na koji način kritička geopolitika doprinosi razumijevanju algoritamske moći u savremenim društvima? Jesu li današnji algoritmi samo tehnološki alati ili i sami postaju akteri unutar geopolitičkih procesa?
Ovako, kritička geopolitika nam pomaže da algoritme ne posmatramo samo kao tehnološke alate, već i kao prostorne i političke fenomene. Za razliku od klasične geopolitike, koja se bavi kontrolom teritorije i resursa, kritička geopolitika nas uči da analiziramo kako se moć proizvodi kroz diskurse, tehnologije i infrastrukture, uključujući i algoritamske. Sve što je u domenu čovjeka, sve što je u domenu civilizacije ima koordinate, geografsku širinu i dužinu, samim tim algoritmi, iako djeluju apstraktno, zapravo imaju vrlo jasne geografske odrednice. Podaci koje generiramo klikovima i lajkovima ne odlaze u „oblake“, u neki cloud, oni završavaju na serverima koji su negdje locirani, na nekim geografijama. Ta infrastruktura ima geopolitičke posljedice jer zemlje koje nemaju kapacitete za vlastito upravljanje podacima postaju ovisne o silama koje te centre kontrole posjeduju.
Posmatrajući algoritam u kontekstu kritičke geopolitike, možemo uvidjeti jednu stvar. Ako je informacija sada sve, onda će najbitnija geografija, to jest geopolitički prostor biti onaj koji će obilovati podacima u budućnosti. A to je indijski supkontinent gdje imamo Bangladeš, Pakistan i Indiju, pola čovječanstva živi na toj geografiji. Jednostavno rečeno, iz perspektive kritičke geopolitike, ako je danas informacija ono što je nekada bila teritorija, onda je ključno pitanje gdje su ti podaci, a indijski supkontinent postaje nova vrsta Heartlanda, i tu će se generisati ogromna količina podataka. U tom kontekstu, klasične ideje poput Mackinderove i Spajkmenove o Heartlandu i Rimlandu postaju iznenađujuće relevantne. Onaj ko kontroliše digitalne tokove tog prostora mogao bi imati ključnu prednost u globalnim odnosima moći.
I ako onda uzmemo priču klasične geopolitike da postoji Heartland i da postoji Rimland i da taj ko kontroliše Heartland, kroz kontrolu Rimlanda, kontroliše svijet. Onda možemo reći da će u nekoj skorijoj budućnosti biti bitka za kontrolu ovih podataka sa supkontinenta. Za deset do petnaest godina pristup realpolitici će biti takav da onaj ko kontroliše indijski supkontinent, koji će postati Heartland kroz kontrolu Rimlanda, a Rimland će se protezati od zemalja Evropske unije preko Jugoistočne Evrope, on će kontrolisati svijet. Postat će, ili će ostati, hegemon. A očito je da će borba biti samo između dvije supersile po pitanju razvoja umjetne inteligencije, a to je bitka između Sjedinjenih Američkih Država i Kine.
Ako kažemo da algoritam postaje akter geopolitičkih procesa, to bi podrazumijevalo da je on već doživio moment singularnosti, ako hoćeš, moment osvještenja. Algoritam neće u skorijoj budućnosti biti čimbenik geopolitičkih dešavanja kao što su to, naprimjer, Sjedinjene Američke Države, Kina ili neka druga sila. Dok se ne desi moment „Hala“ iz Odiseje u Svemiru 2001. Stanleya Kubricka, algoritam neće na taj način biti čimbenik. Međutim, ako uzmemo u obzir da se različite vrste analiza sada vrše isključivo putem algoritama i da gotovo nema čovjeka u čitavom tom procesu, onda procjene koje utječu na procese donošenja odluka u smislu da li treba uzeti u posjed ili koncesiju neku teritoriju zato što posjeduje neke rude ili, u ekstremnim slučajevima, da li treba napasti neku zemlju ili ne, donekle počivaju na odluci algoritma jer algoritmi sami vrše analizu podataka i te analize su servirane osobama koje donose odluke. Pojednostavljeno, prije te vrste odluka mudri ljudi s iskustvom bi sjeli pa vagali šta treba a šta ne treba. Sada se ti donosioci odluka za neke krucijalne odluke više ne vežu za mudre ljude, već se vežu za procjenu algoritama.
Postoje li specifične demokratske institucije koje su posebno ranjive na algoritamsku manipulaciju – recimo sudstvo, parlament, mediji?
Sve su ranjive. Sve demokratske institucije su na određeni način ranjive na algoritamsku manipulaciju jer su međusobno umrežene i zavise od informacija koje cirkulišu u digitalnom prostoru. Sudstvo je, recimo, izloženo rizicima kroz automatizaciju presuda i upotrebu prediktivnih algoritama. Parlamenti su podložni algoritamskom oblikovanju javnog mnijenja, dok su mediji često već preplavljeni sadržajem koji generišu algoritmi prema principima viralnosti, a ne istinitosti. Međutim, ako promatramo iz perspektive sigurnosnih studija, najranjiviji element nije neka pojedinačna institucija, već sam građanin. Umjesto što se fokus stavi isključivo na zaštitu fizičke ili digitalne kritične infrastrukture, centralnih banaka ili sudova, potrebno je razumjeti da je kritičko mišljenje pojedinca postalo nova vrsta infrastrukture koju treba štititi. Pravi cilj malignog algoritamskog utjecaja nisu alati institucija, već kognitivni integritet ljudi koji te institucije biraju, održavaju i legitimiraju. Pojedinac je i danas najslabija karika. Ako nema kapacitet da samostalno prepozna dezinformaciju, obmanu ili manipulaciju, onda ni sudstvo, ni parlament, ni mediji ne mogu funkcionisati u punom demokratskom smislu. Zbog toga ulaganje u obrazovanje i razvoj informacijske i medijske pismenosti nije periferno, već postaje temelj sigurnosti savremenih demokratskih poredaka.
Koliki je značaj prirodnih resursa poput ruda i vode za procese obrade i čuvanja podataka potrebnih za funkcioniranje umjetne inteligencije?
Situacija po ovom pitanju nije nimalo ohrabrujuća. Danas je sve jasnije da razvoj umjetne inteligencije zavisi od izuzetno rijetkih i dragocjenih resursa, kako u vidu materijala poput litija i drugih ruda za izradu čipova i semikonduktora tako i u vidu ogromnih količina električne energije i vode potrebnih za napajanje i hlađenje data centara širom svijeta.
U postojećem neoliberalnom ekonomskom sistemu, koji zahtijeva neprekidan rast i akumulaciju profita, algoritam postaje ključni instrument moći. Nekoliko najvećih korporacija, koje već sada kontrolišu između 20 i 30% globalnog bogatstva, dodatno jačaju jer one posjeduju i razvijaju algoritme. Ti algoritmi će postepeno ući u sve pore naših života, od obrazovanja do odlučivanja. Realno je očekivati da će u bliskoj budućnosti zamijeniti čak i univerzitetske profesore, jer mogu brže i efikasnije interpretirati kompleksne sadržaje, uključujući i one teorijski zahtjevne poput neomarksističkih škola, za koje bi meni, kao čovjeku, trebali mjeseci rada.
AI infrastruktura zahtijeva rastuće količine energije. Prema nekim mojim procjenama, do 2023. godine u svijetu je bilo oko 800 hiperdata centara, gigantskih objekata, često veličine čitavih opština poput Novog Sarajeva. Samo za njihovo pohranjivanje podataka, dakle ne i za obradu podataka, troši se količina električne energije koja odgovara ukupnoj godišnjoj potrošnji domaćinstava u SAD-u, Kanadi, Meksiku, Argentini i Brazilu, plus još 20-ak miliona dodatnih domaćinstava. Ogromna količina te energije troši se i na hlađenje, koje se danas dominantno obavlja korištenjem vode, pa se rijeke preusmjeravaju kako bi rashladile servere.
Ovakav razvoj donosi i društvene posljedice. Ako 20 do 30% urbanog stanovništva ostane bez posla zbog automatizacije, mnogi više neće moći sebi priuštiti život u gradu. Kao geograf, to mi je posebno interesantno jer ulazimo u fazu algoritamske ruralizacije i masivne deurbanizacije. Napuštanjem gradova i povratkom zemlji, vodi i šumi ljudi će se okretati održivijim oblicima života, ne iz ideala, već iz nužde.
Kakva je pozicija Bosne i Hercegovine po pitanju podatkovnog suvereniteta, nastupaju li institucije odgovorno na planu zaštite i/ili primijenjenosti naših podataka?
Mislim da kada pričamo o podacima i suverenitetu u tom kontekstu trenutno luksuz na suverenitet imaju samo najveći. Kina želi apsolutni digitalni suverenitet, ne samo suverenitet podataka već apsolutni digitalni suverenitet koji implicira da bilo koja firma ili bilo koji student koji vrši neko istraživanje u Kini mora ostaviti sve podatke u Kini, oni ne idu nigdje van zemlje. Za Bosnu i Hercegovinu to naravno nije slučaj, mi smo mali i samim tim nemamo taj luksuz suvereniteta. Prema američkom Cloud Actu podaci koji se generišu u Bosni i Hercegovini, koje ja i ti generišemo, idu u Ameriku zato što je Bosna i Hercegovina potpisala različite ugovore i onda se ti podaci koriste u svrhu borbe protiv terorizma, trgovine narkoticima i slično. U isto vrijeme, kada je u pitanju digitalni podatkovni suverenitet, kroz proces pristupanja EU obavezni smo prema Evropskoj uniji i prema njihovom GDPR-u da im damo naše podatke, a GDPR u odnosu na američki Cloud Act kaže neke druge stvari. U isto vrijeme potpisali smo i s Kinezima u okviru različitih inicijativa, recimo ima ovaj digitalni jedan put, jedan pojas, da i njima dajemo neke podatke. Znači isti klik moj i tvoj potencijalno ide na tri različite strane i oni rade tri različite stvari s tim.
Samim tim perspektiva podatkovnog suvereniteta za male zemlje je vrlo mala i Bosna i Hercegovina po defaultu potpisuje ove stvari koje se traže od njih jer nema „mišiće“ da se bori za svoj podatkovni suverenitet. To nas dovodi do ključne činjenice da Bosna i Hercegovina de facto ne posjeduje podatkovni suverenitet. Ne zato što to ne želimo, već zato što nemao tehničku, pravnu niti političku moć da ga osiguramo. Naše institucije, umjesto da aktivno rade na razvoju nacionalnih strategija za upravljanje podacima, uglavnom pasivno potpisuju ono što se od njih traži. A bez suvereniteta nad vlastitim podacima teško je govoriti o stvarnoj digitalnoj samostalnosti.
Gdje vidite granicu između korisne digitalizacije i opasne algoritmizacije demokratskih procesa?
Granica između korisne digitalizacije i opasne algoritmizacije demokratskih procesa nalazi se upravo u tome da li sistem ostavlja prostor za ljudsku agenciju i fizičku prisutnost ili sve podređuje efikasnosti, prediktivnosti i automatizaciji. Tu dolazimo do problema. Naprimjer, koristio sam Raiffeisen banku i oni su u jednom momentu naglo odlučili da počnu zatvarati filijale gdje čovjek dođe s računom da ga plati. Sve im naprasno postade digitalno-algoritamsko. Oni idu ukorak s trendom, znači nije to više digitalna ekonomija, to je sad algoritamska, prediktivna ekonomija, ali i dalje ostaju stvari koje se moraju raditi u fizičkom prostoru. Ja moram donijeti prijavnicu, dostaviti izvode od poslodavca i slično, moram uraditi te stvari, a oni nisu prilagodili svoj biznis plan stvarima koje moraju biti urađene analogno.
Dođeš u poslovnicu banke, jednu jedinu koja radi sa živim ljudima, čekaš u redu satima da bi uradio neku banalnu stvar, jer je sve poslalo digitalno. Da ne pričamo o tome da imamo dio stanovništva koji ne razumije algoritme, oni su potpuno analogni.
Demokratija počiva na inkluziji, a algoritamski sistemi po prirodi isključuju ono što ne mogu da kvantificiraju. Ako jedan dio stanovništva ne razumije algoritme i ako ne može pristupiti osnovnim servisima, dolazi do ne samo digitalnog jaza već i političkog. Ljudi se osjećaju gurnuti na marginu, a sistem gubi legitimnost.
Najveći test za demokratiju i demokratske procese tek dolazi, a to je trenutak kada automatizacija počne masovno zamjenjivati radna mjesta. Ne znamo još tačno kako će to izgledati, ali znamo da dolazi. Taj inicijalni val nezaposlenosti i isključenja mogao bi izazvati ozbiljnu destabilizaciju, posebno u društvima poput našeg, gdje su institucionalni mehanizmi slabiji. Ključno pitanje više neće biti samo tehnološko, već kako sačuvati demokratsku koheziju u vremenu algoritamske fragmentacije.
