AI – Umjetna inteligencija

Dr. Geoffrey Hinton napušta Google i upozorava na opasnost pred nama

   Pola stoljeća dr.Geoffrey Hinton njegovao je tehnologiju u srcu chatbota kao što je ChatGPT. Sada napušta Google kako bi mogao slobodno podijeliti svoju zabrinutost da bi umjetna inteligencija mogla nanijeti ozbiljnu štetu svijetu.

Dr.Geoffrey Hinton bio je pionir umjetne inteligencije. Godine 2012. dr.Hinton i dva njegova diplomirana studenta na Sveučilištu u Torontu stvorili su tehnologiju koja je postala intelektualni temelj za AI sustave za koje najveće tvrtke tehnološke industrije vjeruju da su ključ njihove budućnosti. Međutim, u ponedjeljak se službeno pridružio sve većem zboru kritičara koji kažu da te tvrtke jure prema opasnosti svojom agresivnom kampanjom za stvaranje proizvoda temeljenih na generativnoj umjetnoj inteligenciji, tehnologiji koja pokreće popularne chatbotove poput ChatGPT-a.
Dr.Hinton je rekao da je dao otkaz na poslu u Googleu, gdje je radio više od desetljeća i postao jedan od najcjenjenijih glasova u tom području, tako da može slobodno govoriti o rizicima A.I. Dio njega, rekao je, sada žali za svojim životnim djelom. “Tješim se uobičajenim izgovorom: da nisam ja to učinio, netko drugi bi”, rekao je dr. Hinton tijekom podužeg intervjua prošli tjedan u blagovaonici svog doma u Torontu, nekoliko minuta hoda od mjesta gdje su on i njegovi učenici napravili svoj proboj.
Putovanje dr. Hintona od AI pionira do proricatelja sudbine označava izuzetan trenutak za tehnološku industriju na njezinoj možda najvažnijoj prekretnici u desetljećima. Čelnici industrije vjeruju da bi novi AI sustavi mogli biti jednako važni kao uvođenje web preglednika u ranim 1990-ima i mogli bi dovesti do otkrića u područjima od istraživanja lijekova do obrazovanja.
Ali mnoge insajdere u industriji grize strah da puštaju nešto opasno u divljinu. Generativni AI već može biti alat za dezinformiranje. Uskoro bi to moglo predstavljati rizik za radna mjesta. Negdje niz liniju, kažu najveći zabrinuti za tehnologiju, to bi mogao biti rizik za čovječanstvo. “Teško je vidjeti kako možete spriječiti loše glumce da to iskoriste za loše stvari”, rekao je dr.Hinton.
Nakon što je start-up OpenAI iz San Francisca u ožujku objavio novu verziju ChatGPT-a, više od 1000 tehnoloških vođa i istraživača potpisalo je otvoreno pismo pozivajući na šestomjesečni moratorij na razvoj novih sustava jer AI tehnologije predstavljaju “duboke rizike za društvo i čovječanstvo.” Nekoliko dana kasnije, 19 sadašnjih i bivših čelnika Udruge za unapređenje umjetne inteligencije, 40-godišnjeg akademskog društva, objavilo je vlastito pismo upozoravajući na rizike od AI. Ta je skupina uključivala Erica Horvitza, glavnog znanstvenog direktora u Microsoftu, koji je implementirao tehnologiju OpenAI-ja u širok raspon proizvoda, uključujući svoju tražilicu Bing.
Dr. Hinton, često nazivan “kum umjetne inteligencije”, nije potpisao nijedno od tih pisama i rekao je da ne želi javno kritizirati Google ili druge kompanije dok ne da otkaz na poslu. On je prošlog mjeseca obavijestio tvrtku da daje ostavku, a u četvrtak je telefonski razgovarao sa Sundarom Pichaijem, izvršnim direktorom Googleove matične tvrtke Alphabet. Odbio je javno govoriti o detaljima razgovora s gospodinom Pichaijem. Googleov glavni znanstvenik, Jeff Dean, rekao je u izjavi: “Ostajemo predani odgovornom pristupu AI. Kontinuirano učimo razumjeti nove rizike, a istovremeno hrabro inoviramo.”

Dr.Hinton, 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera vođena njegovim osobnim uvjerenjima o razvoju i korištenju umjetne inteligencije. Godine 1972., kao diplomirani student na Sveučilištu u Edinburghu, dr.Hinton prihvatio je ideju zvanu neuronska mreža. Neuronska mreža je matematički sustav koji uči vještine analizom podataka. U to je vrijeme malo istraživača vjerovalo u tu ideju. Ali to je postalo njegovo životno djelo. U 1980-ima dr. Hinton je profesor informatike na Sveučilištu Carnegie Mellon, ali je napustio sveučilište i otišao u Kanadu jer je rekao da nerado prihvaća sredstva Pentagona. U to vrijeme većina AI istraživanja u Sjedinjenim Državama financiralo je Ministarstvo obrane. Dr. Hinton duboko se protivi korištenju umjetne inteligencije na bojnom polju – onoga što on naziva “roboti vojnici”.

Godine 2012. dr.Hinton i dva njegova studenta u Torontu, Ilya Sutskever i Alex Krishevsky, izgradili su neuronsku mrežu koja je mogla analizirati tisuće fotografija i sama sebe naučiti identificirati uobičajene objekte, poput cvijeća, pasa i automobila. Google je potrošio 44 milijuna dolara za kupnju tvrtke koju su pokrenuli dr. Hinton i njegova dva učenika. A njihov je sustav doveo do stvaranja sve moćnijih tehnologija, uključujući nove chatbotove kao što su ChatGPT i Google Bard. G. Sutskever je postao glavni znanstvenik u OpenAI-ju. Godine 2018. dr. Hinton i još dvoje dugogodišnjih suradnika primili su Turingovu nagradu, često nazivanu “Nobelovom nagradom za računalstvo”, za svoj rad na neuronskim mrežama.
Otprilike u isto vrijeme, Google, OpenAI i druge tvrtke započele su s izgradnjom neuronskih mreža koje su učile iz ogromnih količina digitalnog teksta. Dr. Hinton je mislio da je to moćan način da strojevi razumiju i generiraju jezik, ali inferioran u odnosu na način na koji ljudi barataju jezikom. No prošle godine, kad su Google i OpenAI izgradili sustave koristeći mnogo veće količine podataka, njegovo se gledište promijenilo. I dalje je vjerovao da su sustavi inferiorni ljudskom mozgu na neke načine, ali je mislio da zasjenjuju ljudsku inteligenciju na druge. “Možda je ono što se događa u tim sustavima,” rekao je, “zapravo puno bolje od onoga što se događa u mozgu.”

Kako tvrtke poboljšavaju svoje AI sustave, smatra, oni postaju sve opasniji. “Pogledajte kako je bilo prije pet godina i kako je sada”, rekao je o AI tehnologiji. “Uzmite razliku i propagirajte je naprijed. To je zastrašujuće.” Sve do prošle godine, rekao je, Google je djelovao kao “pravi upravitelj” tehnologije, pazeći da ne objavi nešto što bi moglo prouzročiti štetu. Ali sada kada je Microsoft proširio svoju tražilicu Bing s chatbotom – izazivajući Googleovu osnovnu djelatnost – Google se utrkuje u implementaciji iste vrste tehnologije. Tehnološki divovi uhvaćeni su u natjecanje koje je možda nemoguće zaustaviti, rekao je dr. Hinton. Njegova trenutna briga je da će internet biti preplavljen lažnim fotografijama, videima i tekstovima, a prosječna osoba “više neće moći znati što je istina”. Također je zabrinut da će AI tehnologije s vremenom preokrenuti tržište rada. Danas chatbotovi poput ChatGPT-a obično nadopunjuju ljudske radnike, ali bi mogli zamijeniti pravnike, osobne asistente, prevoditelje i druge koji obavljaju zadatke napamet. “To oduzima težak posao”, rekao je. “Moglo bi oduzeti više od toga.”
U nastavku je zabrinut da buduće verzije tehnologije predstavljaju prijetnju čovječanstvu jer često uče neočekivano ponašanje iz golemih količina podataka koje analiziraju. To postaje problem, rekao je, jer pojedinci i tvrtke dopuštaju AI sustavu ne samo generiranje vlastitog računalnog koda, već i samostalno pokretanje tog koda. I boji se dana kada će istinski autonomno oružje – ti roboti ubojice – postati stvarnost. “Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi – nekoliko je ljudi vjerovalo u to”, rekao je. “Ali većina ljudi je mislila da je to daleko. I ja sam mislio da je daleko. Mislio sam da je to za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako”. Mnogi drugi stručnjaci, uključujući mnoge njegove studente i kolege, kažu da je ova prijetnja hipotetska. No dr. Hinton vjeruje da će utrka između Googlea i Microsofta i ostalih eskalirati u globalnu utrku koja neće prestati bez neke vrste globalne regulacije. Ali to je možda nemoguće, rekao je. Za razliku od nuklearnog oružja, rekao je, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti. Najbolja nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije. “Mislim da ne bi trebali ovo povećavati sve dok ne shvate mogu li to kontrolirati”, rekao je.

Dr.Hinton je, kada bi ga ljudi pitali kako može raditi na tehnologiji koja je potencijalno opasna, parafrazirao Roberta Oppenheimera, koji je predvodio američke napore da se napravi atomska bomba: “Kada vidiš nešto što je tehnički slatko, ideš naprijed i učiniš to.”
On to više ne govori.

(C) New York Times, May 1, 2023 by Cade Metz

Više iz kategorije

AI - Umjetna inteligencija

AI – Umjetna inteligencija
26/09/2023
2020. godine potpredsjednik za istraživanja OpenAI-a Dario Amodei napustio je tvrtku za umjetnu inteligenciju i osnovao suparnički startup pod nazivom
AI – Umjetna inteligencija
12/09/2023
Google DeepMind lansirao je novi alat za označavanje vodenim žigovima koji označava jesu li slike generirane umjetnom inteligencijom. To je prva velika tehnološka tvrtka koja ga je javno lansir ...
AI – Umjetna inteligencija
02/08/2023
Iako se deepfake pornografija bez pristanka godinama koristi za mučenje žena, najnovija generacija umjetne inteligencije čini to još većim problemom. Ti su sustavi puno lakši za korištenje o ...
AI – Umjetna inteligencija
02/08/2023
U manje od tjedan dana otkako je Meta lansirala svoj AI model LLaMA 2, startupi i istraživači već su ga upotrijebili za razvoj chatbota i AI asistenta. Bit će samo pitanje vremena kada će tvrt ...
AI – Umjetna inteligencija
16/06/2023
Kako bi AI chatbotovi zvučali pametno i izbacivali manje toksične besmislice tajna je u korištenju tehnike koja se zove pojačano učenje iz ljudskih povratnih informacija, a ona koristi ljude z ...
AI – Umjetna inteligencija
23/05/2023
“ Nikada nije postojao veći rizik da tehnologija uništi naše čovječanstvo. Ova knjiga nije za inženjere koji pišu kod, kreatore politike koji tvrde da ga mogu regulirati ili stručnjak ...
AI – Umjetna inteligencija
16/05/2023
   OpenAI CEO Sam Altman na Odboru američkog Senata odgovara na pitanja u raspravi o utjecaju umjetne inteligencije  Sažetak : • Izvršni direktor OpenAI, Sam Altman, s ...
AI – Umjetna inteligencija
03/05/2023
   ChatGPT je najbrže rastuća potrošačka aplikacija svih vremena, kojoj je bilo potrebno samo pet dana da dosegne milijun korisnika i samo dva mjeseca da dosegne 100 milijuna korisnika.
AI – Umjetna inteligencija
02/05/2023
   Za razliku od prošlih tehnoloških inovacija, umjetna inteligencija ne govori o gospodarenju čovječanstva nad prirodom, već o potpunom odricanju kontrole. Shvaćali mi to ili ne, stara ...
AI – Umjetna inteligencija
13/04/2023
Ne vidimo često da tehnologije dobivaju eksponencijalno usvajanje i pozornost u vrlo kratkom vremenskom okviru na način na koji je to postigao OpenAI-jev ChatGPT od kasne 2022. g. Procjenj ...
AI – Umjetna inteligencija
04/04/2023
Više od 250 godina temeljni pokretači gospodarskog rasta bile su tehnološke inovacije. Najvažnije od njih su ono što ekonomisti nazivaju GPT - tehnologijama opće namjene—kategorija koja ukl ...
AI – Umjetna inteligencija
02/04/2023
 Problem s novim chatbotovima nije samo to što su često glupi i naivni; to je da nisu dovoljno "glupi" ili "naivni" da uhvate nijanse, ironije i razotkrivajuća proturječja koja sačinjavaj ...
AI – Umjetna inteligencija
13/02/2023
Potpolje umjetne inteligencije koje se fokusira na stvaranje novih podataka ili sadržaja zovemo “GAI -generativna AI” a razlikuje se od analitičke AI po tome što više ne služi samo za anal ...
AI – Umjetna inteligencija
04/03/2020
Umjetna inteligencija trebala bi utjecati na svaki aspekt naših života, ne samo na način na koji je proizvodnja organizirana. AI, kao tehnološka platforma, može automatizirati zadatke koje je ...
AI – Umjetna inteligencija
10/01/2020
Znanstvena zajednica još uvijek se nije usuglasila oko definicije : Umjetna inteligencija je naziv koji se može pridodati svakom neživom sustavu koji pokazuje sposobnost snalaženja u nov ...
Scroll to Top