Problem s novim chatbotovima nije samo to što su često glupi i naivni; to je da nisu dovoljno “glupi” ili “naivni” da uhvate nijanse, ironije i razotkrivajuća proturječja koja sačinjavaju ljudsku kulturu i komunikaciju. Što je još gore, oslanjajući se na njih, riskiramo da podlegnemo istoj gluposti.
Nema ništa novo o “chatbotovima” koji su sposobni održavati razgovor na prirodnom jeziku, razumjeti osnovnu namjeru korisnika i ponuditi odgovore na temelju unaprijed postavljenih pravila i podataka. No, kapacitet takvih chatbota dramatično je povećan posljednjih mjeseci, što je dovelo do neslaganja i panike u mnogim krugovima.
Mnogo je rečeno o chatbotovima koji nagovještavaju kraj tradicionalnog studentskog eseja. Ali pitanje koje zaslužuje veću pozornost jest kako bi chatbotovi trebali reagirati kada ljudski sugovornici koriste agresivne, seksističke ili rasističke primjedbe kako bi potaknuli bota da zauzvrat predstavi svoje vlastite lažne fantazije. Treba li umjetna inteligencija biti programirana da odgovara na istoj razini kao i pitanja koja se postavljaju?
Ako odlučimo da je neka vrsta propisa u redu, onda moramo odrediti dokle treba ići cenzura. Hoće li političke pozicije koje neke grupe smatraju “uvredljivima” biti zabranjene? Što je s izrazima solidarnosti s Palestincima sa Zapadne obale ili tvrdnjom da je Izrael država aparthejda (što je bivši američki predsjednik Jimmy Carter svojedobno stavio u naslov knjige)? Hoće li oni biti blokirani kao “antisemitski”?
Problem tu ne završava. Kao što upozorava umjetnik i pisac James Bridle, nove umjetne inteligencije “temeljene su na sveobuhvatnom prisvajanju postojeće kulture”, a uvjerenje da su “zapravo upućene ili značajne aktivno je opasno”. Stoga bismo također trebali biti vrlo oprezni s novim AI generatorima slika. “U svom pokušaju da razumiju i repliciraju cjelokupnu ljudsku vizualnu kulturu”, primjećuje Bridle, “[čini se] da su rekreirali i naše najmračnije strahove. Možda je to samo znak da su ti sustavi doista vrlo dobri u oponašanju ljudske svijesti, sve do užasa koji vreba u dubinama postojanja: naših strahova od prljavštine, smrti i korupcije.”
Ali koliko su nove umjetne inteligencije dobre u približavanju ljudske svijesti? Zamislite bar koji je nedavno reklamirao posebno piće sa sljedećim uvjetima: “Kupite jedno pivo po cijeni od dva i primite drugo pivo potpuno besplatno!” Za svakog čovjeka ovo je očito šala. Klasična posebna ponuda “kupi jednu, uzmi jednu” preoblikovana je tako da se poništi. To je izraz cinizma koji će se cijeniti kao komična iskrenost, a sve kako bi se povećala prodaja. Bi li chatbot otkrio išta od ovoga?
“Jebote” predstavlja sličan problem. Iako označava nešto što većina ljudi uživa raditi (kopulacija), također često poprima negativnu valenciju (“Sjebani smo!” “Jebi se!”). Jezik i stvarnost su zbrkani. Je li umjetna inteligencija spremna uočiti takve razlike?
U svom eseju iz 1805. “O postupnom oblikovanju misli u procesu govora” (prvi put objavljen posthumno 1878.), njemački pjesnik Heinrich von Kleist izokreće uvriježenu mudrost da ne treba otvarati usta da bi govorili ako nemate jasnu ideju o tome što reći: “Ako je dakle misao izražena na nejasan način, onda uopće ne slijedi da je ta misao zamišljena na zbrkan način. Naprotiv, vrlo je moguće da su ideje koje su izražene na najkonfuzniji način one koje su najjasnije promišljene.”
Odnos između jezika i mišljenja je izuzetno kompliciran. U odlomku iz jednog od Staljinovih govora iz ranih 1930-ih, on predlaže radikalne mjere za “otkrivanje i borbu bez milosti čak i protiv onih koji se protive kolektivizaciji samo u svojim mislima – da, mislim na to, trebali bismo se boriti čak i protiv ljudskih misli.” Sa sigurnošću se može pretpostaviti da ovaj odlomak nije bio unaprijed pripremljen. Nakon što ga je uhvatio trenutak, Staljin je odmah postao svjestan onoga što je upravo rekao. Ali umjesto da se povuče, odlučio je ostati pri svojoj hiperboli.
Kao što je Jacques Lacan kasnije rekao, ovo je bio slučaj kada je istina izronila iznenada kroz čin izricanja. Louis Althusser identificirao je sličan fenomen u međuigri između nagrade (prise) i iznenađenja (surprise). Netko tko iznenada shvati (“nagradi”) ideju bit će iznenađen onim što je postigla. Opet, može li bilo koji chatbot to učiniti?
Problem nije u tome što su chatbotovi glupi; to je da nisu dovoljno “glupi”. Nije da su naivni (nedostaje im ironija i refleksivnost); to je da nisu dovoljno naivni (nedostaje kada naivnost prikriva pronicljivost). Prava opasnost, dakle, nije da će ljudi zamijeniti chatbota sa stvarnom osobom; to je da će komunikacija s chatbotovima natjerati stvarne osobe da govore kao chatbotovi – propuštajući sve nijanse i ironije, opsesivno govoreći samo ono što mislite da želite reći.
Kad sam bio mlađi, prijatelj je otišao psihoanalitičaru na liječenje nakon traumatičnog iskustva. Ideja ovog prijatelja o tome što takvi analitičari očekuju od svojih pacijenata bila je klišej, pa je svoju prvu seansu proveo iznoseći lažne “slobodne asocijacije” o tome kako mrzi svog oca i želi njegovu smrt. Reakcija analitičara bila je genijalna: zauzeo je naivan “predfrojdovski” stav i predbacio mom prijatelju što ne poštuje svog oca (“Kako možeš tako govoriti o osobi koja te je učinila onim što jesi?”). Ova hinjena naivnost poslala je jasnu poruku: Ne vjerujem vašim lažnim “asocijacijama”. Bi li chatbot mogao uhvatiti ovaj podtekst?
Najvjerojatnije ne bi, jer je to poput Rowana Williamsovog tumačenja princa Miškina u Idiotu Dostojevskog. Prema standardnom tumačenju, Myshkin, “idiot”, je svetac, “pozitivno dobar i lijep čovjek” kojeg dovode do izoliranog ludila grube brutalnosti i strasti stvarnog svijeta. Ali u Williamsovom radikalnom ponovnom čitanju, Myshkin predstavlja oko oluje: dobar i svetac, koliko god bio, on je taj koji izaziva pustoš i smrt kojoj svjedoči, zahvaljujući svojoj ulozi u složenoj mreži odnosa oko sebe .
Ne radi se samo o tome da je Miškin naivni prostak. Radi se o tome da ga njegova posebna vrsta tuposti ostavlja nesvjesnim svojih katastrofalnih učinaka na druge. On je ravna osoba koja doslovno priča kao chatbot. Njegova “dobrota” leži u tome što, poput chatbota, na izazove reagira bez ironije, nudeći floskule lišene svake refleksivnosti, shvaćajući sve doslovno i oslanjajući se na mentalni auto-complete, a ne na autentično oblikovanje ideja. Iz tog će se razloga novi chatbotovi jako dobro slagati s ideolozima svih boja, od današnje “probuđene” gomile do “MAGA” nacionalista koji radije spavaju.
(C) Project Syndicate, 23.3.2023.