Pola stoljeća dr.Geoffrey Hinton njegovao je tehnologiju u srcu chatbota kao što je ChatGPT. Sada napušta Google kako bi mogao slobodno podijeliti svoju zabrinutost da bi umjetna inteligencija mogla nanijeti ozbiljnu štetu svijetu.
Dr.Geoffrey Hinton bio je pionir umjetne inteligencije. Godine 2012. dr.Hinton i dva njegova diplomirana studenta na Sveučilištu u Torontu stvorili su tehnologiju koja je postala intelektualni temelj za AI sustave za koje najveće tvrtke tehnološke industrije vjeruju da su ključ njihove budućnosti. Međutim, u ponedjeljak se službeno pridružio sve većem zboru kritičara koji kažu da te tvrtke jure prema opasnosti svojom agresivnom kampanjom za stvaranje proizvoda temeljenih na generativnoj umjetnoj inteligenciji, tehnologiji koja pokreće popularne chatbotove poput ChatGPT-a.
Dr.Hinton je rekao da je dao otkaz na poslu u Googleu, gdje je radio više od desetljeća i postao jedan od najcjenjenijih glasova u tom području, tako da može slobodno govoriti o rizicima A.I. Dio njega, rekao je, sada žali za svojim životnim djelom. “Tješim se uobičajenim izgovorom: da nisam ja to učinio, netko drugi bi”, rekao je dr. Hinton tijekom podužeg intervjua prošli tjedan u blagovaonici svog doma u Torontu, nekoliko minuta hoda od mjesta gdje su on i njegovi učenici napravili svoj proboj.
Putovanje dr. Hintona od AI pionira do proricatelja sudbine označava izuzetan trenutak za tehnološku industriju na njezinoj možda najvažnijoj prekretnici u desetljećima. Čelnici industrije vjeruju da bi novi AI sustavi mogli biti jednako važni kao uvođenje web preglednika u ranim 1990-ima i mogli bi dovesti do otkrića u područjima od istraživanja lijekova do obrazovanja.
Ali mnoge insajdere u industriji grize strah da puštaju nešto opasno u divljinu. Generativni AI već može biti alat za dezinformiranje. Uskoro bi to moglo predstavljati rizik za radna mjesta. Negdje niz liniju, kažu najveći zabrinuti za tehnologiju, to bi mogao biti rizik za čovječanstvo. “Teško je vidjeti kako možete spriječiti loše glumce da to iskoriste za loše stvari”, rekao je dr.Hinton.
Nakon što je start-up OpenAI iz San Francisca u ožujku objavio novu verziju ChatGPT-a, više od 1000 tehnoloških vođa i istraživača potpisalo je otvoreno pismo pozivajući na šestomjesečni moratorij na razvoj novih sustava jer AI tehnologije predstavljaju “duboke rizike za društvo i čovječanstvo.” Nekoliko dana kasnije, 19 sadašnjih i bivših čelnika Udruge za unapređenje umjetne inteligencije, 40-godišnjeg akademskog društva, objavilo je vlastito pismo upozoravajući na rizike od AI. Ta je skupina uključivala Erica Horvitza, glavnog znanstvenog direktora u Microsoftu, koji je implementirao tehnologiju OpenAI-ja u širok raspon proizvoda, uključujući svoju tražilicu Bing.
Dr. Hinton, često nazivan “kum umjetne inteligencije”, nije potpisao nijedno od tih pisama i rekao je da ne želi javno kritizirati Google ili druge kompanije dok ne da otkaz na poslu. On je prošlog mjeseca obavijestio tvrtku da daje ostavku, a u četvrtak je telefonski razgovarao sa Sundarom Pichaijem, izvršnim direktorom Googleove matične tvrtke Alphabet. Odbio je javno govoriti o detaljima razgovora s gospodinom Pichaijem. Googleov glavni znanstvenik, Jeff Dean, rekao je u izjavi: “Ostajemo predani odgovornom pristupu AI. Kontinuirano učimo razumjeti nove rizike, a istovremeno hrabro inoviramo.”
Dr.Hinton, 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera vođena njegovim osobnim uvjerenjima o razvoju i korištenju umjetne inteligencije. Godine 1972., kao diplomirani student na Sveučilištu u Edinburghu, dr.Hinton prihvatio je ideju zvanu neuronska mreža. Neuronska mreža je matematički sustav koji uči vještine analizom podataka. U to je vrijeme malo istraživača vjerovalo u tu ideju. Ali to je postalo njegovo životno djelo. U 1980-ima dr. Hinton je profesor informatike na Sveučilištu Carnegie Mellon, ali je napustio sveučilište i otišao u Kanadu jer je rekao da nerado prihvaća sredstva Pentagona. U to vrijeme većina AI istraživanja u Sjedinjenim Državama financiralo je Ministarstvo obrane. Dr. Hinton duboko se protivi korištenju umjetne inteligencije na bojnom polju – onoga što on naziva “roboti vojnici”.
Godine 2012. dr.Hinton i dva njegova studenta u Torontu, Ilya Sutskever i Alex Krishevsky, izgradili su neuronsku mrežu koja je mogla analizirati tisuće fotografija i sama sebe naučiti identificirati uobičajene objekte, poput cvijeća, pasa i automobila. Google je potrošio 44 milijuna dolara za kupnju tvrtke koju su pokrenuli dr. Hinton i njegova dva učenika. A njihov je sustav doveo do stvaranja sve moćnijih tehnologija, uključujući nove chatbotove kao što su ChatGPT i Google Bard. G. Sutskever je postao glavni znanstvenik u OpenAI-ju. Godine 2018. dr. Hinton i još dvoje dugogodišnjih suradnika primili su Turingovu nagradu, često nazivanu “Nobelovom nagradom za računalstvo”, za svoj rad na neuronskim mrežama.
Otprilike u isto vrijeme, Google, OpenAI i druge tvrtke započele su s izgradnjom neuronskih mreža koje su učile iz ogromnih količina digitalnog teksta. Dr. Hinton je mislio da je to moćan način da strojevi razumiju i generiraju jezik, ali inferioran u odnosu na način na koji ljudi barataju jezikom. No prošle godine, kad su Google i OpenAI izgradili sustave koristeći mnogo veće količine podataka, njegovo se gledište promijenilo. I dalje je vjerovao da su sustavi inferiorni ljudskom mozgu na neke načine, ali je mislio da zasjenjuju ljudsku inteligenciju na druge. “Možda je ono što se događa u tim sustavima,” rekao je, “zapravo puno bolje od onoga što se događa u mozgu.”
Kako tvrtke poboljšavaju svoje AI sustave, smatra, oni postaju sve opasniji. “Pogledajte kako je bilo prije pet godina i kako je sada”, rekao je o AI tehnologiji. “Uzmite razliku i propagirajte je naprijed. To je zastrašujuće.” Sve do prošle godine, rekao je, Google je djelovao kao “pravi upravitelj” tehnologije, pazeći da ne objavi nešto što bi moglo prouzročiti štetu. Ali sada kada je Microsoft proširio svoju tražilicu Bing s chatbotom – izazivajući Googleovu osnovnu djelatnost – Google se utrkuje u implementaciji iste vrste tehnologije. Tehnološki divovi uhvaćeni su u natjecanje koje je možda nemoguće zaustaviti, rekao je dr. Hinton. Njegova trenutna briga je da će internet biti preplavljen lažnim fotografijama, videima i tekstovima, a prosječna osoba “više neće moći znati što je istina”. Također je zabrinut da će AI tehnologije s vremenom preokrenuti tržište rada. Danas chatbotovi poput ChatGPT-a obično nadopunjuju ljudske radnike, ali bi mogli zamijeniti pravnike, osobne asistente, prevoditelje i druge koji obavljaju zadatke napamet. “To oduzima težak posao”, rekao je. “Moglo bi oduzeti više od toga.”
U nastavku je zabrinut da buduće verzije tehnologije predstavljaju prijetnju čovječanstvu jer često uče neočekivano ponašanje iz golemih količina podataka koje analiziraju. To postaje problem, rekao je, jer pojedinci i tvrtke dopuštaju AI sustavu ne samo generiranje vlastitog računalnog koda, već i samostalno pokretanje tog koda. I boji se dana kada će istinski autonomno oružje – ti roboti ubojice – postati stvarnost. “Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi – nekoliko je ljudi vjerovalo u to”, rekao je. “Ali većina ljudi je mislila da je to daleko. I ja sam mislio da je daleko. Mislio sam da je to za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako”. Mnogi drugi stručnjaci, uključujući mnoge njegove studente i kolege, kažu da je ova prijetnja hipotetska. No dr. Hinton vjeruje da će utrka između Googlea i Microsofta i ostalih eskalirati u globalnu utrku koja neće prestati bez neke vrste globalne regulacije. Ali to je možda nemoguće, rekao je. Za razliku od nuklearnog oružja, rekao je, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti. Najbolja nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije. “Mislim da ne bi trebali ovo povećavati sve dok ne shvate mogu li to kontrolirati”, rekao je.
Dr.Hinton je, kada bi ga ljudi pitali kako može raditi na tehnologiji koja je potencijalno opasna, parafrazirao Roberta Oppenheimera, koji je predvodio američke napore da se napravi atomska bomba: “Kada vidiš nešto što je tehnički slatko, ideš naprijed i učiniš to.”
On to više ne govori.