Za razliku od prošlih tehnoloških inovacija, umjetna inteligencija ne govori o gospodarenju čovječanstva nad prirodom, već o potpunom odricanju kontrole. Shvaćali mi to ili ne, stara antropocentrična arogancija koju tehnologija omogućuje uskoro bi mogla ustupiti mjesto ljudskoj nevažnosti i besmislu.
Otvoreno pismo Instituta za budućnost života kojim se zahtijeva šestomjesečna pauza u razvoju umjetne inteligencije već su potpisale tisuće osoba visokog profila, uključujući Elona Muska. Potpisnici su zabrinuti da su laboratoriji umjetne inteligencije “zaključani nekontroliranoj utrci” u razvoju i implementaciji sve snažnijih sustava koje nitko – uključujući njihove kreatore – ne može razumjeti, predvidjeti ili kontrolirati.
Što objašnjava ovaj izljev panike među određenom skupinom elita? Kontrola i regulacija očito su u središtu priče, ali čija? Tijekom predložene polugodišnje pauze kako bi čovječanstvo sagledalo rizike, tko će zastupati čovječanstvo? Budući da će AI laboratoriji u Kini, Indiji i Rusiji nastaviti s radom (možda u tajnosti), nezamisliva je globalna javna rasprava o tom pitanju.
Ipak, trebali bismo razmotriti što je ovdje u pitanju. U svojoj knjizi iz 2015., Homo Deus, povjesničar Yuval Harari predvidio je da će najvjerojatniji ishod umjetne inteligencije biti radikalna podjela – puno jača od klasne podjele – unutar ljudskog društva. Uskoro će biotehnologija i računalni algoritmi udružiti svoje moći u proizvodnji “tijela, mozgova i umova”, što će rezultirati sve većim jazom “između onih koji znaju kako projektirati tijela i mozgove i onih koji ne znaju.” U takvom svijetu, “oni koji se voze vlakom napretka steći će božanske sposobnosti stvaranja i uništenja, dok će se oni koji budu zaostali suočiti s izumiranjem.”
Panika koja se odražava u pismu AI-ja proizlazi iz straha da čak ni oni koji su na “vlaku napretka” neće moći njime upravljati. Naši trenutni digitalni feudalni gospodari su uplašeni. Međutim, ono što oni žele nije javna rasprava, već dogovor između vlada i tehnoloških korporacija da zadrže moć tamo gdje joj je mjesto.
Ogromno širenje AI sposobnosti ozbiljna je prijetnja onima koji su na vlasti – uključujući one koji razvijaju, posjeduju i kontroliraju AI. To ukazuje na kraj kapitalizma kakvog poznajemo, koji se očituje u izgledima samoreproducirajućeg AI sustava koji će trebati sve manje i manje unosa ljudskih agenata (algoritamsko trgovanje na burzi tek je prvi korak u tom smjeru). Izbor koji nam ostaje bit će između novog oblika komunizma i nekontroliranog kaosa.
Novi chatbotovi ponudit će mnogim usamljenim (ili ne tako usamljenim) ljudima beskrajne večeri prijateljskog dijaloga o filmovima, knjigama, kuhanju ili politici. Da ponovno upotrijebim svoju staru metaforu, ono što će ljudi dobiti je AI verzija kave bez kofeina ili gaziranog soka bez šećera: prijateljski susjed bez kostura u ormaru, Drugi koji će se jednostavno prilagoditi vašim potrebama. Ovdje postoji struktura fetišističkog odbacivanja: “Jako dobro znam da ne razgovaram sa stvarnom osobom, ali čini mi se kao da jesam – i to bez ikakvih popratnih rizika!”
U svakom slučaju, pomno ispitivanje pisma AI pokazuje da je to još jedan pokušaj zabrane nemogućeg. Ovo je stari paradoks: nemoguće je za nas, kao ljude, sudjelovati u posthumanoj budućnosti, stoga moramo zabraniti njen razvoj. Da bismo se orijentirali oko ovih tehnologija, trebali bismo postaviti Lenjinovo staro pitanje: Sloboda za koga da učini što? U kom smislu smo prije bili slobodni? Nismo li već kontrolirani mnogo više nego što smo shvaćali? Umjesto da se žalimo na ugroženost naše slobode i dostojanstva u budućnosti, možda bismo prvo trebali razmisliti što sloboda znači sada. Dok to ne učinimo, ponašat ćemo se kao histeričari koji, prema riječima francuskog psihoanalitičara Jacquesa Lacana, očajnički traže gospodara, ali samo onog nad kojim možemo dominirati.
Futurist Ray Kurzweil predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog napretka, uskoro imati posla s “duhovnim” strojevima koji će ne samo pokazivati sve znakove samosvijesti, već i daleko nadmašivati ljudsku inteligenciju. Ali ne treba ovo “posthumano” stajalište brkati s paradigmatično modernom preokupacijom postizanjem potpune tehnološke dominacije nad prirodom. Umjesto toga, svjedočimo dijalektičkom preokretu ovog procesa.
Današnje “posthumane” znanosti više se ne bave dominacijom. Njihov credo je iznenađenje: kakva bi to uvjetna, neplanirana pojavna svojstva mogli steći za sebe “crne kutije” AI modela? Nitko ne zna i u tome leži uzbuđenje – ili, zapravo, banalnost – cijelog pothvata.
Stoga je početkom ovog stoljeća francuski filozof-inženjer Jean-Pierre Dupuy u novoj robotici, genetici, nanotehnologiji, umjetnom životu i umjetnoj inteligenciji uočio čudnu inverziju tradicionalne antropocentrične arogancije koju tehnologija omogućuje:
“Kako objasniti da je znanost postala toliko ‘rizična’ aktivnost da, prema nekim vrhunskim znanstvenicima, danas predstavlja glavnu prijetnju opstanku čovječanstva? Neki filozofi odgovaraju na ovo pitanje govoreći da je Descartesov san – “postati gospodar i posjednik prirode” – postavljen krivo i da se treba hitno vratiti na “gospodarstvo gospodarenja”, preispitati temelje naše potrebe za razumijevanjem svijeta oko nas. Ništa nisu razumjeli. Ne vide da tehnologija koja se profilira na našem horizontu kroz ‘konvergenciju’ svih disciplina cilja upravo na neovladavanje. Inženjer sutrašnjice neće biti čarobnjakov učenik zbog svog nemara ili neznanja, već po izboru.”
Čovječanstvo stvara vlastitog boga ili vraga. Iako se ishod ne može predvidjeti, jedno je sigurno. Ako se nešto nalik na “posthumanost” pojavi kao kolektivna činjenica, naš svjetonazor će izgubiti sva tri subjekta koji ga definiraju, preklapajuća: čovječanstvo, prirodu i božanstvo. Naš identitet kao ljudi može postojati samo u pozadini neprobojne prirode, ali ako život postane nešto čime tehnologija može potpuno manipulirati, izgubit će svoj “prirodni” karakter. Potpuno kontrolirana egzistencija je lišena smisla, a da ne spominjemo slučajnost i čuđenje.
Isto, naravno, vrijedi za svaki osjećaj božanskog. Ljudsko iskustvo “boga” ima značenje samo sa stajališta ljudske konačnosti i smrtnosti. Jednom kada postanemo homo deus i stvorimo svojstva koja se čine “nadnaravnima” s našeg starog ljudskog stajališta, “bogovi” kakve smo poznavali će nestati. Pitanje je što će, ako išta, ostati. Hoćemo li obožavati umjetnu inteligenciju koju smo stvorili?
Postoji svaki razlog za zabrinutost da su tehno-gnostičke vizije posthumanog svijeta ideološke fantazije koje zamagljuju ponor koji nas čeka. Nepotrebno je reći da bi bilo potrebno više od šest mjeseci pauze kako bi se osiguralo da ljudi ne postanu nevažni, a njihovi životi besmisleni, u ne tako dalekoj budućnosti.
(C) Project Syndicate, Apr 7, 2023