Bila je to moja plava košulja, poklon od šogorice, koja je sve odala. Pomislio sam na Jakova Petroviča Goljadkina, beznačajnog činovnika iz novele Dvojnik Fjodora Dostojevskog – uznemirujuće studije rascijepljenog sebstva unutar golemog, bezličnog feudalnog sistema.
Sve je počelo porukom uvaženog kolege koji mi je čestitao na video-izlaganju o nekoj geopolitičkoj temi. Kada sam kliknuo na priloženi YouTube link kako bih se prisjetio onoga što sam rekao, počeo sam sumnjati u vlastito pamćenje. Kada sam uopće snimio taj video? Nakon nekoliko minuta postalo mi je jasno da nešto nije u redu. Ne zato što bih se ne slagao s onim što se govorilo, već zato što sam shvatio da video prikazuje mene kako sjedim za radnim stolom u atenskom uredu, noseći onu plavu košulju koja nikada nije napustila moj otočki dom. Ispostavilo se da je riječ o videu u kojem se pojavljuje moj AI deepfake dvojnik.
Od tada su se stotine takvih videa, s mojim licem i sintetiziranim glasom, proširile YouTubeom i društvenim mrežama. Čak i ovog vikenda pojavila se nova serija, u kojoj deepfake verzija mene iznosi izmišljene tvrdnje o državnom udaru u Venezueli. Drže predavanja, izgovaraju stvari koje bih možda mogao reći, ponekad isprepletene s onima koje nikada ne bih izgovorio. Bjesne, dociraju. Neki su grubi, drugi zapanjujuće uvjerljivi. Pristalice mi ih šalju pitajući: “Yanis, jesi li to stvarno rekao?” Protivnici ih šire kao dokaz moje gluposti. Još gore, neki tvrde da su moji dvojnici rječitiji i argumentiraniji od mene samog. Tako se nalazim u bizarnoj poziciji posmatrača vlastite digitalne lutkarske predstave, fantoma u tehnofeudalnoj mašini za koju već dugo tvrdim da nije samo pokvarena, već konstruirana s ciljem obespravljenja.
Moja prva reakcija bila je da se obratim Googleu, Meti i ostalima, zahtijevajući da uklone te videe. U bijesu sam ispunio brojne obrasce prije nego što su, sedmicu ili više kasnije, neki kanali i snimci uklonjeni – samo da bi se odmah pojavili pod drugim imenima. Ubrzo sam odustao: šta god da sam radio, koliko god sati dnevno provodio pokušavajući natjerati velike tehnološke kompanije da uklone moje AI dvojnike, pojavljivalo bi ih se još više, poput Hidre.
Uskoro je bijes ustupio mjesto razmišljanju. Zar nisam upravo ja tvrdio da velika tehnologija nije samo digitalizirala kapitalizam, već je predvodila veliku transformaciju, pretvarajući tržišta u oblačne feude, a profit u oblačne rente? Nisu li moji AI dvojnici savršena potvrda da je u ovoj tehnofeudalnoj stvarnosti liberalni individuum mrtav i sahranjen?
Pomirivši se s djelimičnim gubitkom vlasništva nad samim sobom, utjehu sam potražio u racionalizaciji ovih deepfakeova kao krajnjeg čina feudalnog ograđivanja – dokaza da u tehnofeudalizmu ne posjedujemo ništa: ni podatke koje proizvodi naš rad, ni naše društvene mreže, a sada ni vlastiti audiovizualni identitet. Naši novi gospodari vide nas kao kmetove na njihovim oblačnim posjedima, androide čiji se lik može proizvoljno prisvajati kako bi se sijala konfuzija, zamućivao javni diskurs i autentično neslaganje utapalo u kakofoniji sintetičke buke, namjenski proizvedene u tu svrhu.
A onda me obuzela vedrija misao, ona koja priziva antičku Atinu. Šta ako su moji AI dvojnici glasnici isegorije (ἰσηγορία), principa jednako blistavog, obećavajućeg i odsutnog kao i sama istinska demokratija? Kada sam nekoliko verzija AI chatbota zamolio da ga definiraju, svi su ga uredno pogrešno protumačili, izjednačivši isegoriju s jednakošću govora, pravom da se bude saslušan ili slobodom obraćanja skupštini. Ali to nije ono što su Atenjani podrazumijevali pod tim pojmom. Naprotiv, za njih je isegorija značila upravo suprotno od današnje “slobode govora”, koju bi odbacili kao apstraktno pravo da se viče u prazninu. Za Atenjane, isegorija je značila pravo da se nečiji stavovi ozbiljno razmatraju – po svojoj suštini – neovisno o tome ko ste ili koliko ih vješto formulirate.
Mogu li AI deepfakeovi spasiti isegoriju iz kandži naše tehnofeudalne distopije? Kada shvatimo da je nemoguće provjeriti ko govori u YouTube videu, hoćemo li biti prisiljeni da sudimo o vrijednosti izrečenog, a ne o identitetu govornika? Može li velika tehnologija, obesmišljavajući autentičnost, nenamjerno dati isegoriji novu šansu? Ta pitanja su ponudila tračak nade.
Bila je to nada da duh demokratije još uvijek lebdi nad nama – ako samo pronađemo motivaciju da podignemo pogled i uključimo se u spor, težak, demokratski rad koji je algoritamski feed osmišljen da izbriše: kritičko vrednovanje stavova i argumenata koji nam se serviraju. No, ta nada, premda opipljiva, nedovoljna je dokle god naši tehnofeudalni gospodari zadržavaju dvije goleme, asimetrične prednosti.
Prvo, oni posjeduju samu agoru – servere, feedove, algoritamska sredstva komunikacije. Oni mogu vlastiti govor ovjeriti kao autentičan digitalnim pečatima, dok naš potapaju u močvaru sumnje i buke. Rezultat? Ne isegorija, već digitalno božansko pravo, u kojem je istina patentirano vlasništvo moći.
Drugo, i još lukavije, njima deepfakeovi uopće nisu potrebni da bi vladali. Njihova ideologija ugrađena je u samu mašinu: moć izvlačenja viška vrijednosti iz proletarijata povezanog s oblakom putem raznih digitalnih uređaja, logika ubiranja oblačnih renti od vazalnih kapitalista na njihovim platformama, tiranija vrijednosti za dioničare i njihova skorašnja uspješna privatizacija novca.
Naš zadatak, stoga, nije da molimo te gospodare za verifikaciju. Naš zadatak je politički. Moramo društveno prisvojiti oblačni kapital, novu svemoćnu silu koja preoblikuje društvo i uništava sve što čini humanizam zamislivim.
Do tada, neka naši digitalni dvojnici govore. Možda će toliko zasićiti spektakl da napokon prestanemo osluškivati vlastiti glas i počnemo prosuđivati argumente prema njihovoj vlastitoj vrijednosti. To je možda najparadoksalniji krhotina nade u dvorani ogledala. Ali u ovom karnevalu hvatamo se za svaki fragment koji nam je dostupan.
