Dolazak ChatGPT-a u studenom 2022. podsjetio nas je na transformativnu moć revolucionarne tehnologije. Akademici i tehnološke tvrtke godinama su eksperimentirali s generativnom umjetnom inteligencijom (GAI). Onda se odjednom svima našla pred vratima, ometajući njihov posao. Dvije godine ranije bili smo zapanjeni naizgled čudesnim razvojem cjepiva protiv COVID-a 19 u devet mjeseci korištenjem mRNA, tehnologije molekularne biologije osmišljene 1960-ih.

Koje bi se druge tehnologije koje mijenjaju igru i koje su godinama razvijane u laboratorijima i pilot postrojenjima mogle približiti svom “ChatGPT trenutku” – točki kada postanu komercijalno održive, povećaju se i redefiniraju industrije? Svjetska savjetnička tvrtka Boston Consulting Group – BCG  vjeruje da se pet — sintetička biologija, kvantno računalstvo, fuzijska energija, izravno hvatanje zraka i CO2 u X — približava točkama preokreta u sljedećih jedno ili dva desetljeća.

Poduzetnik i istraživač umjetne inteligencije koji je suosnivao DeepMind 2010., prije nego što ga je 2014. kupio Google, Mustafa Suleyman je najuvjerljiviji kada ilustrira obećanja i opasnosti ovog novog svijeta. U svježoj i ponekad bez daha prozi, on opisuje kako su ljudska bića konačno uspjela imati moć nad inteligencijom i samim životom.

Uzmimo AI revoluciju. Jezični modeli kao što je ChatGPT samo su početak. Uskoro će, predviđa Suleyman, umjetna inteligencija otkriti čudotvorne lijekove, dijagnosticirati rijetke bolesti, voditi skladišta, optimizirati promet i dizajnirati održive gradove. Moći ćemo reći kompjuterskom programu da “napravi milijun dolara na Amazonu za nekoliko mjeseci” i on će izvršiti naše upute.

Problem je u tome što se iste tehnologije koje nam omogućuju izlječenje bolesti mogu upotrijebiti za njezino izazivanje – što nas dovodi do doista zastrašujućih dijelova knjige. Suleyman primjećuje da je cijena genetskog sekvencioniranja naglo pala, dok se mogućnost uređivanja DNK pomoću tehnologija kao što je Crispr uvelike poboljšala. Uskoro će svatko moći postaviti genetički laboratorij u svojoj garaži. Iskušenje da se manipulira ljudskim genomom, predviđa on, bit će golemo.

Unatoč ovim rizicima, Suleyman sumnja da će se bilo koja nacija potruditi obuzdati ove tehnologije. Države previše ovise o svojim ekonomskim koristima. Ovo je osnovna dilema: ne možemo si priuštiti da ne izgradimo tehnologiju koja bi mogla uzrokovati naše izumiranje. Zvuči poznato?

“Tvrtke koje razvijaju ove nove tehnologije imaju odgovornost osigurati sigurnost svojih proizvoda”, stoji u priopćenju Bijele kuće. “Kako bi maksimalno iskoristili potencijal umjetne inteligencije, Biden-Harris administracija potiče ovu industriju da podržava najviše standarde kako bi osigurala da inovacije ne dolaze nauštrb prava i sigurnosti Amerikanaca.”
U sporazumu stoji da će se tvrtke obvezati na unutarnje i vanjsko sigurnosno testiranje svojih sustava te da će dijeliti informacije među industrijama i vladama, kao i akademskom zajednicom, kako bi pomogle u smanjenju rizika od umjetne inteligencije. Dodatno, kažu da će se posvetiti ulaganju u kibernetičku sigurnost kako bi zaštitili modele umjetne inteligencije i omogućili trećim stranama otkrivanje i prijavu sigurnosnih propusta.

Administracija kaže da će tehnološke tvrtke također razviti sredstva pomoću kojih će korisnici znati kada je sadržaj generiran od strane AI sustava, prijaviti ograničenja svojih sustava, dati prioritet istraživanjima potencijala pristranosti i diskriminacije AI sustava i raditi na razvoju AI sustava koji mogu pomoći u svemu, od prevencije raka do klimatskih promjena.
Bidenova administracija već je poduzela niz koraka za rješavanje brzog porasta AI tehnologija, uključujući održavanje prethodnih sastanaka s čelnicima AI-a, kao i kritičarima kako bi se utvrdilo kako najbolje pomaknuti sustave naprijed bez unošenja potencijalne štete.

Industrija umjetne inteligencije eksplodirala je u popularnosti zahvaljujući OpenAI-ju, koji je u studenom 2022. objavio svoj generativni ChatGPT bot koji pokreće AI. Microsoft, koji ulaže milijarde u OpenAI, objavio je vlastiti Bing chatbot i preglednik Edge u veljači. Googleov roditelj Alphabet također je objavio verziju svog Bard bota i radi na eksperimentalnoj verziji svoje tražilice koja koristi generativni AI.

No rast tehnologije i tempo inovacija također su potaknuli strahove da bi se AI mogla koristiti za sve, od širenja dezinformacija do oduzimanja poslova radnicima u raznim industrijama.

Daniel Howley, tehnološki urednik, Yahoo Finance

Daron Acemoglu i Simon Johnson u članku za Project Syndicate

Microsoft je navodno oduševljen OpenAI-jevim ChatGPT-om, programom umjetne inteligencije na prirodnom jeziku koji može generirati tekst koji se čita kao da ga je napisao čovjek. Koristeći prednost lakog pristupa financiranju tijekom proteklog desetljeća, tvrtke i fondovi rizičnog kapitala uložili su milijarde u utrku u naoružanju umjetne inteligencije, što je rezultiralo tehnologijom koja se sada može koristiti za zamjenu ljudi u širem rasponu zadataka. To bi mogla biti katastrofa ne samo za radnike, već i za potrošače, pa čak i investitore.
Problem za radnike je očit: bit će manje poslova koji zahtijevaju jake komunikacijske vještine, a time i manje dobro plaćenih pozicija. Čistačice, vozači i još neki fizički radnici će zadržati posao, ali svi ostali neka se boje. Razmislite o službi za korisnike. Umjesto da zapošljavaju ljude za interakciju s klijentima, tvrtke će se sve više oslanjati na generativne umjetne inteligencije poput ChatGPT-a kako bi umirile ljutite pozivatelje pametnim i umirujućim riječima. Manje početnih poslova značit će manje prilika za početak karijere – nastavljajući trend uspostavljen ranijim digitalnim tehnologijama.
Potrošači će također patiti. Chatbotovi mogu biti dobri za rješavanje potpuno rutinskih pitanja, ali nisu rutinska pitanja ta koja obično navode ljude da nazovu službu za korisnike. Kada postoji stvarni problem – poput zaustavljanja zrakoplovne kompanije ili pucanja cijevi u vašem podrumu – želite razgovarati s dobro kvalificiranim, suosjećajnim stručnjakom koji ima sposobnost prikupljanja resursa i organiziranja pravovremenih rješenja. Ne želite biti stavljeni na čekanje osam sati, ali ne želite ni odmah razgovarati s elokventnim, ali u konačnici beskorisnim chatbotom.
Naravno, u idealnom bi se svijetu pojavile nove tvrtke koje bi nudile bolju korisničku uslugu i osvojile tržišni udio. Ali u stvarnom svijetu mnoge prepreke ulasku novim tvrtkama otežavaju brzo širenje. Možda volite svoju lokalnu pekaru ili ljubaznog predstavnika zrakoplovne tvrtke ili određenog liječnika, ali razmislite što je potrebno za stvaranje novog lanca trgovina mješovitom robom, nove zrakoplovne tvrtke ili nove bolnice. Postojeće tvrtke imaju velike prednosti, uključujući važne oblike tržišne moći koji im omogućuju da odaberu koje će dostupne tehnologije usvojiti i da ih koriste kako god žele.
Još važnije, nove tvrtke koje nude bolje proizvode i usluge općenito zahtijevaju nove tehnologije, poput digitalnih alata koji mogu učiniti radnike učinkovitijima i pomoći u stvaranju bolje prilagođenih usluga za klijentelu tvrtke. No, budući da ulaganja u umjetnu inteligenciju automatizaciju stavljaju na prvo mjesto, ovakvi se alati niti ne stvaraju.
Ulagači u javna poduzeća također će izgubiti u doba ChatGPT-a. Te bi tvrtke mogle poboljšati usluge koje nude potrošačima ulaganjem u nove tehnologije kako bi svoju radnu snagu učinile produktivnijom i sposobnom za obavljanje novih zadataka, te pružanjem dosta obuke za nadogradnju vještina zaposlenika. Ali oni to ne čine. Mnogi su rukovoditelji i dalje opsjednuti strategijom koja će na kraju ostati zapamćena kao samoporažavajuća: smanjivanje broja zaposlenih i držanje plaća na što nižoj razini. Rukovoditelji teže tim rezovima jer je to ono što pametna djeca (analitičari, konzultanti, profesori financija, drugi rukovoditelji) kažu da bi trebali učiniti i zato što Wall Street ocjenjuje njihovu izvedbu u odnosu na druge tvrtke koje također tjeraju radnike što jače mogu.

AI je također spremna pojačati štetne društvene učinke privatnog kapitala. Već se golema bogatstva mogu steći kupnjom tvrtki, opterećujući ih dugovima dok postaju privatne, a zatim isprazniti njihovu radnu snagu – sve uz isplatu visokih dividendi novim vlasnicima. Sada će ChatGPT i druge tehnologije umjetne inteligencije još lakše stisnuti radnike što je više moguće putem nadzora na radnom mjestu, strožih radnih uvjeta, ugovora bez radnog vremena i tako dalje.

Svi ovi trendovi imaju strašne implikacije na kupovnu moć Amerikanaca – pokretača američkog gospodarstva. Ali kao što objašnjavamo u našoj nadolazećoj knjizi, Snaga i napredak: Naša tisućugodišnja borba oko tehnologije i prosperiteta, raspršeni ekonomski motor ne mora ležati u našoj budućnosti. Uostalom, uvođenje novih strojeva i tehnoloških otkrića u prošlosti je imalo vrlo različite posljedice.

Prije više od jednog stoljeća Henry Ford napravio je revoluciju u proizvodnji automobila velikim ulaganjem u nove električne strojeve i razvojem učinkovitije proizvodne trake. Da, ove nove tehnologije donijele su određenu količinu automatizacije, jer su centralizirani izvori električne energije omogućili strojevima da učinkovitije obavljaju više zadataka. Ali reorganizacija tvornice koja je pratila elektrifikaciju također je stvorila nove zadatke za radnike i tisuće novih radnih mjesta s višim plaćama, jačajući zajednički prosperitet. Ford je prednjačio u demonstraciji da je stvaranje tehnologije koja je komplementarna ljudima dobar posao.
Danas AI nudi priliku da učinite isto. Digitalni alati pokretani umjetnom inteligencijom mogu se koristiti za pomoć medicinskim sestrama, učiteljima i predstavnicima korisničke službe da razumiju s čime imaju posla i što bi pomoglo u poboljšanju ishoda za pacijente, studente i potrošače. Moć predviđanja algoritama mogla bi se iskoristiti da pomogne ljudima, a ne da ih zamijeni. Ako se umjetna inteligencija koristi za davanje preporuka za ljudsko razmatranje, sposobnost mudre upotrebe takvih preporuka bit će prepoznata kao vrijedna ljudska vještina. Ostale AI aplikacije mogu olakšati bolju raspodjelu radnika na zadatke ili čak stvoriti potpuno nova tržišta (mislite na Airbnb ili aplikacije za dijeljenje vožnje).
Nažalost, te se prilike zanemaruju, jer većina američkih tehnoloških čelnika i dalje troši mnogo na razvoj softvera koji može raditi ono što ljudi već rade sasvim dobro. Oni znaju da mogu lako zaraditi prodajući svoje proizvode korporacijama koje su razvile viziju tunela (tendenciju da se fokusiraju isključivo na ograničeni cilj). Svi su usredotočeni na iskorištavanje umjetne inteligencije za smanjenje troškova rada, s malo brige ne samo za trenutno korisničko iskustvo, već i za budućnost američke potrošačke moći.

Ford je shvatio da nema smisla masovno proizvoditi automobile ako si mase ne mogu priuštiti kupnju. Nasuprot tome, današnji korporativni titani koriste nove tehnologije na načine koji će uništiti našu zajedničku budućnost.

Sažetak :
• Izvršni direktor OpenAI, Sam Altman, suočio se s pitanjima o umjetnoj inteligenciji (AI) na saslušanju u američkom Senatu
• Tvrtka je stvorila aplikaciju ChatGPT koja može pisati eseje, skripte, pjesme i rješavati računalno kodiranje na ljudski način
• Altman je rekao američkom Senatu da njegovu industriju treba regulirati vlada jer umjetna inteligencija postaje ‘sve moćnija’
• Političari su tražili odgovore o potencijalnim prijetnjama koje umjetna inteligencija predstavlja i potaknuli strahove zbog izbora 2024.
• Nekoliko stručnjaka, uključujući dr. Geoffreya Hintona, takozvanog kuma umjetne inteligencije, nedavno je izrazilo zabrinutost zbog tehnologije koja se brzo razvija

Evo nekih ključnih trenutaka :
• Richard Blumenthal, predsjednik senatskog pododbora za privatnost, pustio je izjavu koju je umjetna inteligencija izmanipulirala da zvuči poput njega dok je govorio o potencijalnim štetnostima tehnologije
• Izvršni direktor OpenAI-ja Sam Altman rekao je da umjetna inteligencija ima potencijal riješiti “najveće izazove čovječanstva, poput klimatskih promjena i liječenja raka”
• Altman i njegovi kolege svjedoci složili su se da je državna regulativa “ključna” za budućnost industrije
• Profesor Gary Marcus, skeptik prema umjetnoj inteligenciji, rekao je da su SAD i drugi “presporo djelovali s regulacijom društvenih medija”, ali da sada moraju odlučiti o izboru u vezi s umjetnom inteligencijom
• Marcus je predložio novu agenciju na razini vlade koja bi regulirala sektor, ideju koju je Altman također podržavao
• Altman je rekao da će napredak umjetne inteligencije značajno utjecati na radnu snagu, ali trenutni modeli ostaju “alat, a ne stvorenje”
• Upitan o utjecaju umjetne inteligencije na glazbu, Altman je rekao da kreatori sadržaja trebaju imati pravo glasa o tome kako se njihovi glasovi, sličnosti ili sadržaj zaštićen autorskim pravima koriste za treniranje modela umjetne inteligencije
• Christina Montgomery, IBM-ova glavna službenica za privatnost i povjerenje, rekla je da se pravila EU-a o umjetnoj inteligenciji “reguliraju prema kontekstu” i daju dobar trag koji SAD treba slijediti
• Blumenthal je rekao da bi tvrtke s umjetnom inteligencijom trebale voditi s pristupom “ne šteti”, ali je priznao da neće biti pauze u razvoju umjetne inteligencije dok regulatori ne sustignu korak

Dok industrijski stručnjaci i akademici zvone za uzbunu, Washington je brzo usmjerio pozornost na umjetnu inteligenciju. Ali teško da postoji koordiniran pristup kada je u pitanju regulacija tehnologije koja se brzo kreće. Administracija predsjednika Joea Bidena pokrenula je niz izvršnih mjera za proučavanje tehnologije, dok čelnik većine u Senatu Chuck Schumer,  radi sa stručnjacima i dionicima na razvoju širokog zakonodavnog okvira za reguliranje umjetne inteligencije. Bez jasnog plana za rješavanje problema, više odbora na Capitol Hillu održava vlastita javna saslušanja i privatne sastanke kako bi pokušali riješiti AI sposobnosti koje su u njihovoj nadležnosti.
“Stvarnost je da je razvoj umjetne inteligencije velikom brzinom i da nitko od nas ne može držati korak s tim”, rekao je u intervjuu senator Peter Welch, član Odbora za trgovinu, znanost i transport. “Mislim da je važno da zajedno razgovaramo o vrijednostima za koje se nadamo da ćemo poboljšati, očuvati i zaštititi pomoću umjetne inteligencije”, rekao je, “ali daleko smo od koordiniranog pristupa.”

Ovaj tjedan, izvršni direktor OpenAI, Sam Altman, jedan od vodećih aktera u razvoju umjetne inteligencije, obratit će se članovima Kongresa. Altman će razgovarati s republikancima i demokratima Zastupničkog doma tijekom rasprave na večeri koju će u ponedjeljak navečer voditi potpredsjednik Konferencije GOP-a Mike Johnson i potpredsjednik Kluba demokrata Ted Lieu. Zatim će u utorak, Altman svjedočiti o umjetnoj inteligenciji po prvi put na Capitol Hillu, pojavivši se pred pravosudnim pododborom za privatnost i tehnologiju.

Umjesto da predlaže sveobuhvatne zakone o umjetnoj inteligenciji za čije bi donošenje mogle biti potrebne godine, Bidenova administracija koristi svoje postojeće ovlasti kako bi pokušala oblikovati tehnologije umjetne inteligencije i osigurati da se razvijaju i koriste odgovorno. Čak i neki zakonodavci koji se agresivno zalažu za nove zakone o umjetnoj inteligenciji vide prednost u tome što Biden poduzima izvršne mjere kako bi pokušao utjecati na brzi razvoj alata umjetne inteligencije, od OpenAI iznimno popularnog chatbota ChatGPT do generatora slika umjetne inteligencije i softvera za kloniranje glasa koji zavaravaju obične Amerikance. Nekoliko agencija, uključujući Ministarstvo pravosuđa i Povjerenstvo za jednake mogućnosti zapošljavanja, rekli su da prate automatizirane sustave koji bi mogli nezakonito diskriminirati, poput algoritama koji bi osobi mogli uskratiti smještaj na temelju njezine rase. Savezna komisija za trgovinu zaprijetila je da će istražiti tvrtke koje prenaglašavaju svoju upotrebu umjetne inteligencije za potencijalno lažno oglašavanje.

Globalni potpredsjednik za inovacije iz NRI-jevog Velrada Businessa, Dan Hookham kaže da bi veličina tržišta za umjetnu inteligenciju mogla biti 1,5 trilijuna dolara do 2030. godine.
“Veličina je ogromna. Ako razmislite o tome, ako ste u stanju učiniti nešto tri puta brže od svoje konkurencije i možete učiniti AI mnogo pristupačnijom od vaše konkurencije, tada ćete osvojiti to određeno tržište.”
Jedno područje koje postaje žestoko napadano je Googleov tradicionalni pritisak na internetska pretraživanja. Googleov roditelj, Alphabet, generira gotovo 60% svog prihoda od oglašavanja vezanog uz pretraživanje. Trenutno postoji 5,6 milijardi pretraga na Googleu svaki dan, a samo 900 milijuna pretraga na Bingu. Međutim, Hookham kaže da s 1,5 milijardi ljudi koji svakodnevno koriste Windows i 1,3 milijarde koji koriste Microsoft Office, bolje iskustvo pretraživanja na Bingu će zadržati ljude unutar Microsoftovog ekosustava. “Ne bih nužno rekao da je to izazov pretraživanja, kao u tome tko ima najbolji algoritam pretraživanja, ali radi se o pristupačnosti pretraživanja i dostupnosti.”

Tržište umjetne inteligencije nalazi se na snažnoj putanji rasta, s predviđanjem rasta po ukupnoj godišnjoj stopi rasta od 37,3% od 2023. do 2030. godine. Sektori koji će imati najviše koristi od širenja umjetne inteligencije uključuju promet, sigurnost, zdravstvo i financije. “AI se već uvelike koristi u financijskim uslugama, tamo se ostvaruje najveći prihod. Ali u tvrtkama kao što su farmaceutske, biomedicinske tvrtke, robotičke tvrtke, svi oni koriste AI kako bi ubrzali proces proizvodnje,” rekao je g. Hookham.

Ekonomist Oxford Economicsa Alex Holmes kaže da modeliranje OECD-a pokazuje da vrste poslova koje će zamijeniti umjetna inteligencija nisu ograničene na niskokvalificirane radnike usredotočene na zadatke koji se često ponavljaju. “Da ste me pitali prije godinu dana, vrsta posla koja se ne može zamijeniti bila bi zanimanja poput liječnika, odvjetnika i učitelja, ali čak su i ti profesionalni poslovi pod prijetnjom umjetne inteligencije”, rekao je Alex Holmes. Ohrabrujući podaci Svjetskog ekonomskog foruma govore da će na neto osnovi umjetna inteligencija stvoriti više radnih mjesta nego što će ih uništiti. “Neizbježno će doći razdoblje strukturne nezaposlenosti. To stvara zagonetku politike za kreatore politike, hoće li pokušavati oporezovati i preraspodijeliti dobitke od AI pobjednika prema gubitnicima?” rekao je gospodin Holmes.

Utrka u naoružanju s umjetnom inteligencijom nije ograničena na američku veliku tehnologiju, već tvrtkama iz cijelog svijeta koji se natječu za glavnu poziciju. Broj patenata za AI tehnologiju brzo raste, a dvije kineske tvrtke prednjače s gotovo 20.000 patenata između njih.

Sektor također prolazi kroz značajne aktivnosti spajanja i preuzimanja, potaknute akvizicijama visokog profila vrijednim više milijardi dolara. Hookham kaže da veličina poslova postaje sve veća jer veće tvrtke ili nastoje unijeti novu tehnologiju u svoj paket proizvoda ili sprječavaju konkurenciju da steknu prednost. “Veliki dio vremena vide priliku da donesu operativne prednosti unutar tvrtke, ali također paze da njihovim kolegama ne dođu u ruke tehnologije s kojom će se na kraju morati natjecati”, rekao je g. Hookham. Međutim, širenje umjetne inteligencije dovelo je do upozorenja tehnoloških teškaša, uključujući Elona Muska i Stevea Wozniaka, da bi svijet trebao razmisliti o pritiskanju gumba za pauzu. Elon Musk i tisuće drugih potpisali su pismo u travnju zahtijevajući šestomjesečnu pauzu u razvoju AI sustava moćnijih od GPT-4.

“Ako razmišljate o ljudskoj rasi općenito, tijekom godina koliko smo na planetu, učinili smo neke lijepe, prilično pametne stvari i neke prilično katastrofalne stvari,” rekao je gospodin Hookham.

Bloomberg Media Studios podcast, gost Dan Hookham

Dr.Geoffrey Hinton bio je pionir umjetne inteligencije. Godine 2012. dr.Hinton i dva njegova diplomirana studenta na Sveučilištu u Torontu stvorili su tehnologiju koja je postala intelektualni temelj za AI sustave za koje najveće tvrtke tehnološke industrije vjeruju da su ključ njihove budućnosti. Međutim, u ponedjeljak se službeno pridružio sve većem zboru kritičara koji kažu da te tvrtke jure prema opasnosti svojom agresivnom kampanjom za stvaranje proizvoda temeljenih na generativnoj umjetnoj inteligenciji, tehnologiji koja pokreće popularne chatbotove poput ChatGPT-a.
Dr.Hinton je rekao da je dao otkaz na poslu u Googleu, gdje je radio više od desetljeća i postao jedan od najcjenjenijih glasova u tom području, tako da može slobodno govoriti o rizicima A.I. Dio njega, rekao je, sada žali za svojim životnim djelom. “Tješim se uobičajenim izgovorom: da nisam ja to učinio, netko drugi bi”, rekao je dr. Hinton tijekom podužeg intervjua prošli tjedan u blagovaonici svog doma u Torontu, nekoliko minuta hoda od mjesta gdje su on i njegovi učenici napravili svoj proboj.
Putovanje dr. Hintona od AI pionira do proricatelja sudbine označava izuzetan trenutak za tehnološku industriju na njezinoj možda najvažnijoj prekretnici u desetljećima. Čelnici industrije vjeruju da bi novi AI sustavi mogli biti jednako važni kao uvođenje web preglednika u ranim 1990-ima i mogli bi dovesti do otkrića u područjima od istraživanja lijekova do obrazovanja.
Ali mnoge insajdere u industriji grize strah da puštaju nešto opasno u divljinu. Generativni AI već može biti alat za dezinformiranje. Uskoro bi to moglo predstavljati rizik za radna mjesta. Negdje niz liniju, kažu najveći zabrinuti za tehnologiju, to bi mogao biti rizik za čovječanstvo. “Teško je vidjeti kako možete spriječiti loše glumce da to iskoriste za loše stvari”, rekao je dr.Hinton.
Nakon što je start-up OpenAI iz San Francisca u ožujku objavio novu verziju ChatGPT-a, više od 1000 tehnoloških vođa i istraživača potpisalo je otvoreno pismo pozivajući na šestomjesečni moratorij na razvoj novih sustava jer AI tehnologije predstavljaju “duboke rizike za društvo i čovječanstvo.” Nekoliko dana kasnije, 19 sadašnjih i bivših čelnika Udruge za unapređenje umjetne inteligencije, 40-godišnjeg akademskog društva, objavilo je vlastito pismo upozoravajući na rizike od AI. Ta je skupina uključivala Erica Horvitza, glavnog znanstvenog direktora u Microsoftu, koji je implementirao tehnologiju OpenAI-ja u širok raspon proizvoda, uključujući svoju tražilicu Bing.
Dr. Hinton, često nazivan “kum umjetne inteligencije”, nije potpisao nijedno od tih pisama i rekao je da ne želi javno kritizirati Google ili druge kompanije dok ne da otkaz na poslu. On je prošlog mjeseca obavijestio tvrtku da daje ostavku, a u četvrtak je telefonski razgovarao sa Sundarom Pichaijem, izvršnim direktorom Googleove matične tvrtke Alphabet. Odbio je javno govoriti o detaljima razgovora s gospodinom Pichaijem. Googleov glavni znanstvenik, Jeff Dean, rekao je u izjavi: “Ostajemo predani odgovornom pristupu AI. Kontinuirano učimo razumjeti nove rizike, a istovremeno hrabro inoviramo.”

Dr.Hinton, 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera vođena njegovim osobnim uvjerenjima o razvoju i korištenju umjetne inteligencije. Godine 1972., kao diplomirani student na Sveučilištu u Edinburghu, dr.Hinton prihvatio je ideju zvanu neuronska mreža. Neuronska mreža je matematički sustav koji uči vještine analizom podataka. U to je vrijeme malo istraživača vjerovalo u tu ideju. Ali to je postalo njegovo životno djelo. U 1980-ima dr. Hinton je profesor informatike na Sveučilištu Carnegie Mellon, ali je napustio sveučilište i otišao u Kanadu jer je rekao da nerado prihvaća sredstva Pentagona. U to vrijeme većina AI istraživanja u Sjedinjenim Državama financiralo je Ministarstvo obrane. Dr. Hinton duboko se protivi korištenju umjetne inteligencije na bojnom polju – onoga što on naziva “roboti vojnici”.

Godine 2012. dr.Hinton i dva njegova studenta u Torontu, Ilya Sutskever i Alex Krishevsky, izgradili su neuronsku mrežu koja je mogla analizirati tisuće fotografija i sama sebe naučiti identificirati uobičajene objekte, poput cvijeća, pasa i automobila. Google je potrošio 44 milijuna dolara za kupnju tvrtke koju su pokrenuli dr. Hinton i njegova dva učenika. A njihov je sustav doveo do stvaranja sve moćnijih tehnologija, uključujući nove chatbotove kao što su ChatGPT i Google Bard. G. Sutskever je postao glavni znanstvenik u OpenAI-ju. Godine 2018. dr. Hinton i još dvoje dugogodišnjih suradnika primili su Turingovu nagradu, često nazivanu “Nobelovom nagradom za računalstvo”, za svoj rad na neuronskim mrežama.
Otprilike u isto vrijeme, Google, OpenAI i druge tvrtke započele su s izgradnjom neuronskih mreža koje su učile iz ogromnih količina digitalnog teksta. Dr. Hinton je mislio da je to moćan način da strojevi razumiju i generiraju jezik, ali inferioran u odnosu na način na koji ljudi barataju jezikom. No prošle godine, kad su Google i OpenAI izgradili sustave koristeći mnogo veće količine podataka, njegovo se gledište promijenilo. I dalje je vjerovao da su sustavi inferiorni ljudskom mozgu na neke načine, ali je mislio da zasjenjuju ljudsku inteligenciju na druge. “Možda je ono što se događa u tim sustavima,” rekao je, “zapravo puno bolje od onoga što se događa u mozgu.”

Kako tvrtke poboljšavaju svoje AI sustave, smatra, oni postaju sve opasniji. “Pogledajte kako je bilo prije pet godina i kako je sada”, rekao je o AI tehnologiji. “Uzmite razliku i propagirajte je naprijed. To je zastrašujuće.” Sve do prošle godine, rekao je, Google je djelovao kao “pravi upravitelj” tehnologije, pazeći da ne objavi nešto što bi moglo prouzročiti štetu. Ali sada kada je Microsoft proširio svoju tražilicu Bing s chatbotom – izazivajući Googleovu osnovnu djelatnost – Google se utrkuje u implementaciji iste vrste tehnologije. Tehnološki divovi uhvaćeni su u natjecanje koje je možda nemoguće zaustaviti, rekao je dr. Hinton. Njegova trenutna briga je da će internet biti preplavljen lažnim fotografijama, videima i tekstovima, a prosječna osoba “više neće moći znati što je istina”. Također je zabrinut da će AI tehnologije s vremenom preokrenuti tržište rada. Danas chatbotovi poput ChatGPT-a obično nadopunjuju ljudske radnike, ali bi mogli zamijeniti pravnike, osobne asistente, prevoditelje i druge koji obavljaju zadatke napamet. “To oduzima težak posao”, rekao je. “Moglo bi oduzeti više od toga.”
U nastavku je zabrinut da buduće verzije tehnologije predstavljaju prijetnju čovječanstvu jer često uče neočekivano ponašanje iz golemih količina podataka koje analiziraju. To postaje problem, rekao je, jer pojedinci i tvrtke dopuštaju AI sustavu ne samo generiranje vlastitog računalnog koda, već i samostalno pokretanje tog koda. I boji se dana kada će istinski autonomno oružje – ti roboti ubojice – postati stvarnost. “Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi – nekoliko je ljudi vjerovalo u to”, rekao je. “Ali većina ljudi je mislila da je to daleko. I ja sam mislio da je daleko. Mislio sam da je to za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako”. Mnogi drugi stručnjaci, uključujući mnoge njegove studente i kolege, kažu da je ova prijetnja hipotetska. No dr. Hinton vjeruje da će utrka između Googlea i Microsofta i ostalih eskalirati u globalnu utrku koja neće prestati bez neke vrste globalne regulacije. Ali to je možda nemoguće, rekao je. Za razliku od nuklearnog oružja, rekao je, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti. Najbolja nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije. “Mislim da ne bi trebali ovo povećavati sve dok ne shvate mogu li to kontrolirati”, rekao je.

Dr.Hinton je, kada bi ga ljudi pitali kako može raditi na tehnologiji koja je potencijalno opasna, parafrazirao Roberta Oppenheimera, koji je predvodio američke napore da se napravi atomska bomba: “Kada vidiš nešto što je tehnički slatko, ideš naprijed i učiniš to.”
On to više ne govori.

(C) New York Times, May 1, 2023 by Cade Metz

“Temeljni duh u mnogim raspravama o tempu napretka umjetne inteligencije – da moramo vrlo ozbiljno shvatiti sigurnost i nastaviti s oprezom – ključan je za našu misiju. Proveli smo više od 6 mjeseci testirajući GPT-4 i učinivši ga još sigurnijim, izgradili smo ga na godinama istraživanja usklađivanja koje smo provodili u iščekivanju modela poput GPT-4.

Očekujemo da ćemo nastaviti povećavati svoje sigurnosne mjere proaktivnije nego što bi mnogi naši korisnici željeli. Naš opći cilj je da svaki model koji isporučimo bude naš najusklađeniji do sada, a to je do sada bilo istinito od GPT-3 (u početku implementiran bez ikakvog posebnog usklađivanja), GPT-3.5 (dovoljno usklađen da se može implementirati u ChatGPT) i sada GPT-4 (radi puno bolje na svim našim sigurnosnim metrikama nego GPT-3.5).

Vjerujemo (i to smo govorili u političkim raspravama s vladama) da bi provođenje moćnih treninga trebalo biti prijavljeno vladama, popraćeno sve sofisticiranijim predviđanjima njihove sposobnosti i utjecaja, zahtijevajući najbolje prakse kao što je opasno testiranje sposobnosti. Smatramo da su upravljanje velikim korištenjem računala, sigurnosnim standardima i regulacijom/dijeljenjem lekcija iz implementacije dobre ideje, ali detalji su stvarno važni i trebali bi se prilagođavati s vremenom kako se tehnologija razvija. Također je važno pozabaviti se cijelim spektrom rizika od današnjih problema (npr. sprječavanje zlouporabe ili samoozljeđivanja, ublažavanje predrasuda) do dugoročnih egzistencijalnih problema.

Možda su najčešća tema iz duge povijesti umjetne inteligencije bila netočna pouzdana predviđanja stručnjaka. Jedan od načina da se izbjegnu neuočene pogreške u predviđanju je da tehnologija u svom trenutnom stanju ima rani i česti kontakt sa stvarnošću dok se iterativno razvija, testira, implementira i cijelo vrijeme poboljšava. A postoje i kreativne ideje o kojima ljudi često ne raspravljaju, a koje mogu poboljšati sigurnosno okruženje na iznenađujuće načine — na primjer, lako je stvoriti kontinuum postupno boljih AI-ova (kao što je postavljanje sljedećih kontrolnih točaka danog treninga), koji predstavlja sigurnosnu priliku vrlo različitu od našeg povijesnog pristupa rijetkih velikih nadogradnji modela.

Nadolazeća transformativna tehnološka promjena umjetne inteligencije je nešto što je istovremeno razlog za optimizam i zabrinutost — cijeli niz emocija je opravdan i dijele ga i ljudi unutar OpenAI. Posebna je prilika i obveza za sve nas da smo živi u ovom vremenu, da imamo priliku zajedno osmišljavati budućnost.”

” …to be alive at this time,…” fraza potaknula je raspravu na Twitteru, očekujemo nove komentare.

“Generativni agenti se probude, skuhaju doručak i krenu na posao; umjetnici slikaju, a autori pišu; formiraju mišljenja, primjećuju jedni druge i započinju razgovore; sjećaju se i razmišljaju o prošlim danima dok planiraju sljedeći dan”.

Kako bi omogućili generativne agente, istraživači opisuju arhitekturu koja proširuje veliki jezični model za pohranjivanje potpune evidencije agentovih iskustava korištenjem prirodnog jezika, sintetiziranje tih sjećanja tijekom vremena u refleksije više razine i njihovo dinamičko dohvaćanje za planiranje ponašanja. Oni predstavljaju generativne agente kao stvarne kako bi naselili interaktivno pješčano okruženje (sanbox environment) inspirirano “The Sims”, gdje krajnji korisnici mogu komunicirati s malim gradom od dvadeset pet agenata koristeći prirodni jezik. U evaluaciji, ti generativni agenti proizvode uvjerljiva individualna i pojavna društvena ponašanja.

Istraživački rad Generativni agenti pokazuje generativnu umjetnu inteligenciju koja planira i ima sjećanja.

Agenti percipiraju svoje okruženje, a sve percepcije spremaju se u opsežnom zapisu agentovih iskustava koji se naziva memorijski tok. Na temelju njihove percepcije, arhitektura dohvaća relevantna sjećanja, zatim koristi te dohvaćene radnje za određivanje radnje. Ova dohvaćena sjećanja također se koriste za formiranje dugoročnih planova i za stvaranje refleksija više razine, koje se unose u tok memorije za buduću upotrebu.

Microsoftovi istraživači prethodno su primijetili da ChatGPT poput umjetne inteligencije može raditi sve što ljudi rade (rasuđivati, rješavati probleme, razmišljati apstraktno, shvaćati složene ideje), ali nije bio u stanju planirati i nije imao puno memorije. Ovaj rad više pomaže u rješavanju problema planiranja i pamćenja te učenja iz iskustva.