Otvoreno pismo Instituta za budućnost života kojim se zahtijeva šestomjesečna pauza u razvoju umjetne inteligencije već su potpisale tisuće osoba visokog profila, uključujući Elona Muska. Potpisnici su zabrinuti da su laboratoriji umjetne inteligencije “zaključani nekontroliranoj utrci” u razvoju i implementaciji sve snažnijih sustava koje nitko – uključujući njihove kreatore – ne može razumjeti, predvidjeti ili kontrolirati.
Što objašnjava ovaj izljev panike među određenom skupinom elita? Kontrola i regulacija očito su u središtu priče, ali čija? Tijekom predložene polugodišnje pauze kako bi čovječanstvo sagledalo rizike, tko će zastupati čovječanstvo? Budući da će AI laboratoriji u Kini, Indiji i Rusiji nastaviti s radom (možda u tajnosti), nezamisliva je globalna javna rasprava o tom pitanju.
Ipak, trebali bismo razmotriti što je ovdje u pitanju. U svojoj knjizi iz 2015., Homo Deus, povjesničar Yuval Harari predvidio je da će najvjerojatniji ishod umjetne inteligencije biti radikalna podjela – puno jača od klasne podjele – unutar ljudskog društva. Uskoro će biotehnologija i računalni algoritmi udružiti svoje moći u proizvodnji “tijela, mozgova i umova”, što će rezultirati sve većim jazom “između onih koji znaju kako projektirati tijela i mozgove i onih koji ne znaju.” U takvom svijetu, “oni koji se voze vlakom napretka steći će božanske sposobnosti stvaranja i uništenja, dok će se oni koji budu zaostali suočiti s izumiranjem.”
Panika koja se odražava u pismu AI-ja proizlazi iz straha da čak ni oni koji su na “vlaku napretka” neće moći njime upravljati. Naši trenutni digitalni feudalni gospodari su uplašeni. Međutim, ono što oni žele nije javna rasprava, već dogovor između vlada i tehnoloških korporacija da zadrže moć tamo gdje joj je mjesto.
Ogromno širenje AI sposobnosti ozbiljna je prijetnja onima koji su na vlasti – uključujući one koji razvijaju, posjeduju i kontroliraju AI. To ukazuje na kraj kapitalizma kakvog poznajemo, koji se očituje u izgledima samoreproducirajućeg AI sustava koji će trebati sve manje i manje unosa ljudskih agenata (algoritamsko trgovanje na burzi tek je prvi korak u tom smjeru). Izbor koji nam ostaje bit će između novog oblika komunizma i nekontroliranog kaosa.

Novi chatbotovi ponudit će mnogim usamljenim (ili ne tako usamljenim) ljudima beskrajne večeri prijateljskog dijaloga o filmovima, knjigama, kuhanju ili politici. Da ponovno upotrijebim svoju staru metaforu, ono što će ljudi dobiti je AI verzija kave bez kofeina ili gaziranog soka bez šećera: prijateljski susjed bez kostura u ormaru, Drugi koji će se jednostavno prilagoditi vašim potrebama. Ovdje postoji struktura fetišističkog odbacivanja: “Jako dobro znam da ne razgovaram sa stvarnom osobom, ali čini mi se kao da jesam – i to bez ikakvih popratnih rizika!”
U svakom slučaju, pomno ispitivanje pisma AI pokazuje da je to još jedan pokušaj zabrane nemogućeg. Ovo je stari paradoks: nemoguće je za nas, kao ljude, sudjelovati u posthumanoj budućnosti, stoga moramo zabraniti njen razvoj. Da bismo se orijentirali oko ovih tehnologija, trebali bismo postaviti Lenjinovo staro pitanje: Sloboda za koga da učini što? U kom smislu smo prije bili slobodni? Nismo li već kontrolirani mnogo više nego što smo shvaćali? Umjesto da se žalimo na ugroženost naše slobode i dostojanstva u budućnosti, možda bismo prvo trebali razmisliti što sloboda znači sada. Dok to ne učinimo, ponašat ćemo se kao histeričari koji, prema riječima francuskog psihoanalitičara Jacquesa Lacana, očajnički traže gospodara, ali samo onog nad kojim možemo dominirati.

Futurist Ray Kurzweil predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog napretka, uskoro imati posla s “duhovnim” strojevima koji će ne samo pokazivati sve znakove samosvijesti, već i daleko nadmašivati ljudsku inteligenciju. Ali ne treba ovo “posthumano” stajalište brkati s paradigmatično modernom preokupacijom postizanjem potpune tehnološke dominacije nad prirodom. Umjesto toga, svjedočimo dijalektičkom preokretu ovog procesa.
Današnje “posthumane” znanosti više se ne bave dominacijom. Njihov credo je iznenađenje: kakva bi to uvjetna, neplanirana pojavna svojstva mogli steći za sebe “crne kutije” AI modela? Nitko ne zna i u tome leži uzbuđenje – ili, zapravo, banalnost – cijelog pothvata.
Stoga je početkom ovog stoljeća francuski filozof-inženjer Jean-Pierre Dupuy u novoj robotici, genetici, nanotehnologiji, umjetnom životu i umjetnoj inteligenciji uočio čudnu inverziju tradicionalne antropocentrične arogancije koju tehnologija omogućuje:
“Kako objasniti da je znanost postala toliko ‘rizična’ aktivnost da, prema nekim vrhunskim znanstvenicima, danas predstavlja glavnu prijetnju opstanku čovječanstva? Neki filozofi odgovaraju na ovo pitanje govoreći da je Descartesov san – “postati gospodar i posjednik prirode” – postavljen krivo i da se treba hitno vratiti na “gospodarstvo gospodarenja”, preispitati temelje naše potrebe za razumijevanjem svijeta oko nas. Ništa nisu razumjeli. Ne vide da tehnologija koja se profilira na našem horizontu kroz ‘konvergenciju’ svih disciplina cilja upravo na neovladavanje. Inženjer sutrašnjice neće biti čarobnjakov učenik zbog svog nemara ili neznanja, već po izboru.”

Čovječanstvo stvara vlastitog boga ili vraga. Iako se ishod ne može predvidjeti, jedno je sigurno. Ako se nešto nalik na “posthumanost” pojavi kao kolektivna činjenica, naš svjetonazor će izgubiti sva tri subjekta koji ga definiraju, preklapajuća: čovječanstvo, prirodu i božanstvo. Naš identitet kao ljudi može postojati samo u pozadini neprobojne prirode, ali ako život postane nešto čime tehnologija može potpuno manipulirati, izgubit će svoj “prirodni” karakter. Potpuno kontrolirana egzistencija je lišena smisla, a da ne spominjemo slučajnost i čuđenje.
Isto, naravno, vrijedi za svaki osjećaj božanskog. Ljudsko iskustvo “boga” ima značenje samo sa stajališta ljudske konačnosti i smrtnosti. Jednom kada postanemo homo deus i stvorimo svojstva koja se čine “nadnaravnima” s našeg starog ljudskog stajališta, “bogovi” kakve smo poznavali će nestati. Pitanje je što će, ako išta, ostati. Hoćemo li obožavati umjetnu inteligenciju koju smo stvorili?
Postoji svaki razlog za zabrinutost da su tehno-gnostičke vizije posthumanog svijeta ideološke fantazije koje zamagljuju ponor koji nas čeka. Nepotrebno je reći da bi bilo potrebno više od šest mjeseci pauze kako bi se osiguralo da ljudi ne postanu nevažni, a njihovi životi besmisleni, u ne tako dalekoj budućnosti.

(C) Project Syndicate, Apr 7, 2023

Nema ništa novo o “chatbotovima” koji su sposobni održavati razgovor na prirodnom jeziku, razumjeti osnovnu namjeru korisnika i ponuditi odgovore na temelju unaprijed postavljenih pravila i podataka. No, kapacitet takvih chatbota dramatično je povećan posljednjih mjeseci, što je dovelo do neslaganja i panike u mnogim krugovima.
Mnogo je rečeno o chatbotovima koji nagovještavaju kraj tradicionalnog studentskog eseja. Ali pitanje koje zaslužuje veću pozornost jest kako bi chatbotovi trebali reagirati kada ljudski sugovornici koriste agresivne, seksističke ili rasističke primjedbe kako bi potaknuli bota da zauzvrat predstavi svoje vlastite lažne fantazije. Treba li umjetna inteligencija biti programirana da odgovara na istoj razini kao i pitanja koja se postavljaju?
Ako odlučimo da je neka vrsta propisa u redu, onda moramo odrediti dokle treba ići cenzura. Hoće li političke pozicije koje neke grupe smatraju “uvredljivima” biti zabranjene? Što je s izrazima solidarnosti s Palestincima sa Zapadne obale ili tvrdnjom da je Izrael država aparthejda (što je bivši američki predsjednik Jimmy Carter svojedobno stavio u naslov knjige)? Hoće li oni biti blokirani kao “antisemitski”?
Problem tu ne završava. Kao što upozorava umjetnik i pisac James Bridle, nove umjetne inteligencije “temeljene su na sveobuhvatnom prisvajanju postojeće kulture”, a uvjerenje da su “zapravo upućene ili značajne aktivno je opasno”. Stoga bismo također trebali biti vrlo oprezni s novim AI generatorima slika. “U svom pokušaju da razumiju i repliciraju cjelokupnu ljudsku vizualnu kulturu”, primjećuje Bridle, “[čini se] da su rekreirali i naše najmračnije strahove. Možda je to samo znak da su ti sustavi doista vrlo dobri u oponašanju ljudske svijesti, sve do užasa koji vreba u dubinama postojanja: naših strahova od prljavštine, smrti i korupcije.”
Ali koliko su nove umjetne inteligencije dobre u približavanju ljudske svijesti? Zamislite bar koji je nedavno reklamirao posebno piće sa sljedećim uvjetima: “Kupite jedno pivo po cijeni od dva i primite drugo pivo potpuno besplatno!” Za svakog čovjeka ovo je očito šala. Klasična posebna ponuda “kupi jednu, uzmi jednu” preoblikovana je tako da se poništi. To je izraz cinizma koji će se cijeniti kao komična iskrenost, a sve kako bi se povećala prodaja. Bi li chatbot otkrio išta od ovoga?

“Jebote” predstavlja sličan problem. Iako označava nešto što većina ljudi uživa raditi (kopulacija), također često poprima negativnu valenciju (“Sjebani smo!” “Jebi se!”). Jezik i stvarnost su zbrkani. Je li umjetna inteligencija spremna uočiti takve razlike?
U svom eseju iz 1805. “O postupnom oblikovanju misli u procesu govora” (prvi put objavljen posthumno 1878.), njemački pjesnik Heinrich von Kleist izokreće uvriježenu mudrost da ne treba otvarati usta da bi govorili ako nemate jasnu ideju o tome što reći: “Ako je dakle misao izražena na nejasan način, onda uopće ne slijedi da je ta misao zamišljena na zbrkan način. Naprotiv, vrlo je moguće da su ideje koje su izražene na najkonfuzniji način one koje su najjasnije promišljene.”
Odnos između jezika i mišljenja je izuzetno kompliciran. U odlomku iz jednog od Staljinovih govora iz ranih 1930-ih, on predlaže radikalne mjere za “otkrivanje i borbu bez milosti čak i protiv onih koji se protive kolektivizaciji samo u svojim mislima – da, mislim na to, trebali bismo se boriti čak i protiv ljudskih misli.” Sa sigurnošću se može pretpostaviti da ovaj odlomak nije bio unaprijed pripremljen. Nakon što ga je uhvatio trenutak, Staljin je odmah postao svjestan onoga što je upravo rekao. Ali umjesto da se povuče, odlučio je ostati pri svojoj hiperboli.

Kao što je Jacques Lacan kasnije rekao, ovo je bio slučaj kada je istina izronila iznenada kroz čin izricanja. Louis Althusser identificirao je sličan fenomen u međuigri između nagrade (prise) i iznenađenja (surprise). Netko tko iznenada shvati (“nagradi”) ideju bit će iznenađen onim što je postigla. Opet, može li bilo koji chatbot to učiniti?
Problem nije u tome što su chatbotovi glupi; to je da nisu dovoljno “glupi”. Nije da su naivni (nedostaje im ironija i refleksivnost); to je da nisu dovoljno naivni (nedostaje kada naivnost prikriva pronicljivost). Prava opasnost, dakle, nije da će ljudi zamijeniti chatbota sa stvarnom osobom; to je da će komunikacija s chatbotovima natjerati stvarne osobe da govore kao chatbotovi – propuštajući sve nijanse i ironije, opsesivno govoreći samo ono što mislite da želite reći.

Kad sam bio mlađi, prijatelj je otišao psihoanalitičaru na liječenje nakon traumatičnog iskustva. Ideja ovog prijatelja o tome što takvi analitičari očekuju od svojih pacijenata bila je klišej, pa je svoju prvu seansu proveo iznoseći lažne “slobodne asocijacije” o tome kako mrzi svog oca i želi njegovu smrt. Reakcija analitičara bila je genijalna: zauzeo je naivan “predfrojdovski” stav i predbacio mom prijatelju što ne poštuje svog oca (“Kako možeš tako govoriti o osobi koja te je učinila onim što jesi?”). Ova hinjena naivnost poslala je jasnu poruku: Ne vjerujem vašim lažnim “asocijacijama”. Bi li chatbot mogao uhvatiti ovaj podtekst?
Najvjerojatnije ne bi, jer je to poput Rowana Williamsovog tumačenja princa Miškina u Idiotu Dostojevskog. Prema standardnom tumačenju, Myshkin, “idiot”, je svetac, “pozitivno dobar i lijep čovjek” kojeg dovode do izoliranog ludila grube brutalnosti i strasti stvarnog svijeta. Ali u Williamsovom radikalnom ponovnom čitanju, Myshkin predstavlja oko oluje: dobar i svetac, koliko god bio, on je taj koji izaziva pustoš i smrt kojoj svjedoči, zahvaljujući svojoj ulozi u složenoj mreži odnosa oko sebe .

Ne radi se samo o tome da je Miškin naivni prostak. Radi se o tome da ga njegova posebna vrsta tuposti ostavlja nesvjesnim svojih katastrofalnih učinaka na druge. On je ravna osoba koja doslovno priča kao chatbot. Njegova “dobrota” leži u tome što, poput chatbota, na izazove reagira bez ironije, nudeći floskule lišene svake refleksivnosti, shvaćajući sve doslovno i oslanjajući se na mentalni auto-complete, a ne na autentično oblikovanje ideja. Iz tog će se razloga novi chatbotovi jako dobro slagati s ideolozima svih boja, od današnje “probuđene” gomile do “MAGA” nacionalista koji radije spavaju.

(C) Project Syndicate, 23.3.2023.