Ključne značajke i etički pristup
Claude 3 pojavljuje se kao Anthropicov inauguracijski multimodalni GenAI, vješt u analizi teksta i slika, sposoban za obradu različitih vrsta dokumenata i usporedbu više slika unutar jednog zahtjeva. Etički osviješten, Anthropic je onemogućio identifikaciju osoba na slikama i priznao ograničenja u analizi slika niske kvalitete i zadataka koji zahtijevaju detaljno prostorno razmišljanje.

Poboljšanja i globalna komunikacija
Novi modeli ističu se u praćenju složenih uputa i pružanju strukturiranih odgovora u različitim formatima. Iako se Claude 3 suočava s izazovima uobičajenim za GenAI, poput pristranosti, obećava višejezično sučelje s nadolazećim značajkama za citiranje izvora radi transparentnosti. Anthropic je predan čestim ažuriranjima kako bi poboljšao mogućnosti Claude 3.

Strategija i vizija cijena
Dostupni sada, Opus i Sonnet nude konkurentne cijene pristupa, a Haiku im se pridružuje kasnije ove godine. Anthropicova strategija odražava njegovu širu viziju razvoja umjetne inteligencije, fokusirajući se na stvaranje autonomnih sustava sposobnih za složene zadatke i generiranje sadržaja.

Unapređujući temeljnu umjetnu inteligenciju, Anthropic cilja na modele koji su u skladu s ljudskim namjerama, predviđajući značajan doprinos evoluciji polja umjetne inteligencije i etičkim razmatranjima.

Dok OpenAI prolazi kroz svoje unutarnje sukobe, njegov konkurent Anthropic ne gleda samo sa strane. Pokrenuli su Claude 2.1, ažuriranje svog vodećeg jezičnog modela, koji se može pohvaliti zapaženim poboljšanjima.
Claude 2.1 donosi tri ključna napretka na stol : prošireni kontekstni prozor, povećanu točnost i poboljšanu proširivost.
Prošireni kontekstni prozor:
• Anthropic je sada pretekao OpenAI s kontekstnim prozorom od 200,000 tokena, nadmašivši OpenAI-jev prozor od 128,000 tokena koji je najavio Sam Altman. Ovaj kapacitet omogućuje Claudeu 2.1 rukovanje opsežnim skupovima podataka, od cijelih baza kodova do dugih književnih djela, otvarajući nove mogućnosti složene obrade podataka.
Povećanje točnosti:
• Ažuriranje tvrdi da poboljšava točnost modela, posebno u rješavanju složenih, činjeničnih pitanja koja otkrivaju slabosti u trenutnim modelima. Claude 2.1 ima za cilj smanjiti netočne odgovore, minimizirati halucinacije i povećati njegovu sposobnost mjerenja nesigurnosti.
Proširivost putem alata:
• Možda je najintrigantnije ažuriranje mogućnost Claudea 2.1 da koristi vanjske alate. Prelazeći puko rasuđivanje, sada može komunicirati s kalkulatorima, API-jevima ili čak pretraživati web, korak prema svestranijim i praktičnijim primjenama umjetne inteligencije.
Komparativna analiza s GPT-4
Unatoč tim poboljšanjima, GPT-4 ostaje težak kandidat, posebno u generiranju koda. Claudeov drugačiji pristup obradi zahtjeva može dati dvojake rezultate, naglašavajući kontinuirani razvoj i prirodu ovih modela umjetne inteligencije ovisnu o korisnicima.

Globalni potpredsjednik za inovacije iz NRI-jevog Velrada Businessa, Dan Hookham kaže da bi veličina tržišta za umjetnu inteligenciju mogla biti 1,5 trilijuna dolara do 2030. godine.
“Veličina je ogromna. Ako razmislite o tome, ako ste u stanju učiniti nešto tri puta brže od svoje konkurencije i možete učiniti AI mnogo pristupačnijom od vaše konkurencije, tada ćete osvojiti to određeno tržište.”
Jedno područje koje postaje žestoko napadano je Googleov tradicionalni pritisak na internetska pretraživanja. Googleov roditelj, Alphabet, generira gotovo 60% svog prihoda od oglašavanja vezanog uz pretraživanje. Trenutno postoji 5,6 milijardi pretraga na Googleu svaki dan, a samo 900 milijuna pretraga na Bingu. Međutim, Hookham kaže da s 1,5 milijardi ljudi koji svakodnevno koriste Windows i 1,3 milijarde koji koriste Microsoft Office, bolje iskustvo pretraživanja na Bingu će zadržati ljude unutar Microsoftovog ekosustava. “Ne bih nužno rekao da je to izazov pretraživanja, kao u tome tko ima najbolji algoritam pretraživanja, ali radi se o pristupačnosti pretraživanja i dostupnosti.”

Tržište umjetne inteligencije nalazi se na snažnoj putanji rasta, s predviđanjem rasta po ukupnoj godišnjoj stopi rasta od 37,3% od 2023. do 2030. godine. Sektori koji će imati najviše koristi od širenja umjetne inteligencije uključuju promet, sigurnost, zdravstvo i financije. “AI se već uvelike koristi u financijskim uslugama, tamo se ostvaruje najveći prihod. Ali u tvrtkama kao što su farmaceutske, biomedicinske tvrtke, robotičke tvrtke, svi oni koriste AI kako bi ubrzali proces proizvodnje,” rekao je g. Hookham.

Ekonomist Oxford Economicsa Alex Holmes kaže da modeliranje OECD-a pokazuje da vrste poslova koje će zamijeniti umjetna inteligencija nisu ograničene na niskokvalificirane radnike usredotočene na zadatke koji se često ponavljaju. “Da ste me pitali prije godinu dana, vrsta posla koja se ne može zamijeniti bila bi zanimanja poput liječnika, odvjetnika i učitelja, ali čak su i ti profesionalni poslovi pod prijetnjom umjetne inteligencije”, rekao je Alex Holmes. Ohrabrujući podaci Svjetskog ekonomskog foruma govore da će na neto osnovi umjetna inteligencija stvoriti više radnih mjesta nego što će ih uništiti. “Neizbježno će doći razdoblje strukturne nezaposlenosti. To stvara zagonetku politike za kreatore politike, hoće li pokušavati oporezovati i preraspodijeliti dobitke od AI pobjednika prema gubitnicima?” rekao je gospodin Holmes.

Utrka u naoružanju s umjetnom inteligencijom nije ograničena na američku veliku tehnologiju, već tvrtkama iz cijelog svijeta koji se natječu za glavnu poziciju. Broj patenata za AI tehnologiju brzo raste, a dvije kineske tvrtke prednjače s gotovo 20.000 patenata između njih.

Sektor također prolazi kroz značajne aktivnosti spajanja i preuzimanja, potaknute akvizicijama visokog profila vrijednim više milijardi dolara. Hookham kaže da veličina poslova postaje sve veća jer veće tvrtke ili nastoje unijeti novu tehnologiju u svoj paket proizvoda ili sprječavaju konkurenciju da steknu prednost. “Veliki dio vremena vide priliku da donesu operativne prednosti unutar tvrtke, ali također paze da njihovim kolegama ne dođu u ruke tehnologije s kojom će se na kraju morati natjecati”, rekao je g. Hookham. Međutim, širenje umjetne inteligencije dovelo je do upozorenja tehnoloških teškaša, uključujući Elona Muska i Stevea Wozniaka, da bi svijet trebao razmisliti o pritiskanju gumba za pauzu. Elon Musk i tisuće drugih potpisali su pismo u travnju zahtijevajući šestomjesečnu pauzu u razvoju AI sustava moćnijih od GPT-4.

“Ako razmišljate o ljudskoj rasi općenito, tijekom godina koliko smo na planetu, učinili smo neke lijepe, prilično pametne stvari i neke prilično katastrofalne stvari,” rekao je gospodin Hookham.

Bloomberg Media Studios podcast, gost Dan Hookham

“Temeljni duh u mnogim raspravama o tempu napretka umjetne inteligencije – da moramo vrlo ozbiljno shvatiti sigurnost i nastaviti s oprezom – ključan je za našu misiju. Proveli smo više od 6 mjeseci testirajući GPT-4 i učinivši ga još sigurnijim, izgradili smo ga na godinama istraživanja usklađivanja koje smo provodili u iščekivanju modela poput GPT-4.

Očekujemo da ćemo nastaviti povećavati svoje sigurnosne mjere proaktivnije nego što bi mnogi naši korisnici željeli. Naš opći cilj je da svaki model koji isporučimo bude naš najusklađeniji do sada, a to je do sada bilo istinito od GPT-3 (u početku implementiran bez ikakvog posebnog usklađivanja), GPT-3.5 (dovoljno usklađen da se može implementirati u ChatGPT) i sada GPT-4 (radi puno bolje na svim našim sigurnosnim metrikama nego GPT-3.5).

Vjerujemo (i to smo govorili u političkim raspravama s vladama) da bi provođenje moćnih treninga trebalo biti prijavljeno vladama, popraćeno sve sofisticiranijim predviđanjima njihove sposobnosti i utjecaja, zahtijevajući najbolje prakse kao što je opasno testiranje sposobnosti. Smatramo da su upravljanje velikim korištenjem računala, sigurnosnim standardima i regulacijom/dijeljenjem lekcija iz implementacije dobre ideje, ali detalji su stvarno važni i trebali bi se prilagođavati s vremenom kako se tehnologija razvija. Također je važno pozabaviti se cijelim spektrom rizika od današnjih problema (npr. sprječavanje zlouporabe ili samoozljeđivanja, ublažavanje predrasuda) do dugoročnih egzistencijalnih problema.

Možda su najčešća tema iz duge povijesti umjetne inteligencije bila netočna pouzdana predviđanja stručnjaka. Jedan od načina da se izbjegnu neuočene pogreške u predviđanju je da tehnologija u svom trenutnom stanju ima rani i česti kontakt sa stvarnošću dok se iterativno razvija, testira, implementira i cijelo vrijeme poboljšava. A postoje i kreativne ideje o kojima ljudi često ne raspravljaju, a koje mogu poboljšati sigurnosno okruženje na iznenađujuće načine — na primjer, lako je stvoriti kontinuum postupno boljih AI-ova (kao što je postavljanje sljedećih kontrolnih točaka danog treninga), koji predstavlja sigurnosnu priliku vrlo različitu od našeg povijesnog pristupa rijetkih velikih nadogradnji modela.

Nadolazeća transformativna tehnološka promjena umjetne inteligencije je nešto što je istovremeno razlog za optimizam i zabrinutost — cijeli niz emocija je opravdan i dijele ga i ljudi unutar OpenAI. Posebna je prilika i obveza za sve nas da smo živi u ovom vremenu, da imamo priliku zajedno osmišljavati budućnost.”

” …to be alive at this time,…” fraza potaknula je raspravu na Twitteru, očekujemo nove komentare.

“Najvjerojatniji rezultat izgradnje nadljudski pametne umjetne inteligencije, u bilo čemu sličnom sadašnjim okolnostima,” napisao je, “jest da će doslovno svi na Zemlji umrijeti. Ne kao u ‘možda neka daleka prilika’, nego kao u ‘to je očita stvar koja bi se dogodila.’ … Ako netko izgradi premoćnu AI, pod sadašnjim uvjetima, očekujem da će svaki pojedini član ljudske vrste i sav biološki život na Zemlji umrijeti ubrzo nakon toga.” On sugerira da bi takva umjetna inteligencija mogla lako pobjeći s interneta “kako bi izgradila umjetne oblike života”, zapravo vodeći biološki rat protiv nas. Njegova preporuka je jasna. Trebamo potpuni, globalni moratorij na razvoj umjetne inteligencije.

Ovo ide puno dalje od otvorenog pisma koje su potpisali Elon Musk, Steve Wozniak (suosnivač Applea) i više od 15.000 poznatih osoba koji pozivaju na šestomjesečnu pauzu u razvoju AI moćnijih od trenutnog stanja tehnike. Ali njihova je motivacija ista kao Yudkowskyjeva: uvjerenje da razvoj umjetne inteligencije s nadljudskim sposobnostima u nedostatku bilo kakvog međunarodnog regulatornog okvira riskira katastrofu. Jedina stvarna razlika je u tome što Yudkowsky sumnja da se takav okvir može osmisliti unutar pola godine. Gotovo je sigurno da je u pravu u vezi s tim.
Dakle, ako je Yudkowsky u pravu da je umjetna inteligencija potencijalno opasna kao nuklearno ili biološko oružje, šestomjesečna stanka vjerojatno neće postići mnogo. S druge strane, njegov poziv na potpuno zamrzavanje istraživanja i razvoja ima približno jednake šanse za uspjeh kao i Baruchov plan o internacionalizaciji nuklearnih istraživanja.

Jedna očita razlika između tih starijih smrtonosnih oružja i umjetne inteligencije jest da većinu istraživanja o umjetnoj inteligenciji provodi privatni sektor. Prema posljednjem izvješću Stanfordskog instituta za umjetnu inteligenciju usmjerenu na čovjeka, globalna privatna ulaganja u umjetnu inteligenciju iznosila su 92 milijarde dolara u 2022. godini, od čega je više od polovice bilo u SAD-u. Privatne tvrtke proizvele su ukupno 32 značajna modela strojnog učenja, u usporedbi sa samo tri koja su proizvele akademske institucije. Sretno u isključivanju svega toga.

Moj kolega Tyler Cowen bio je pragmatičniji. Postavio je neka hipotetska pitanja: “Što da smo 2006. kolektivno odlučili obustaviti razvoj društvenih medija na šest mjeseci dok smo razmišljali o mogućim štetama od njihove široke upotrebe? Njegovi učinci u to vrijeme jedva da su bili očiti i još uvijek se osporavaju. U međuvremenu, nakon šestomjesečne odgode, koliko bismo još bili u procesu evaluacije? Pa čak i ako američke tvrtke uvedu šestomjesečnu pauzu, tko može reći da će kineske tvrtke učiniti?”

Ali najelokventniji branitelj neobuzdanog istraživanja i razvoja umjetne inteligencije moj je stari prijatelj Reid Hoffman, osnivač LinkedIna, koji je napisao cijelu knjigu o toj temi… otprilike polovicu knjige generirala je umjetna inteligencija.
Za čitatelja laika problem ove rasprave je dvojak. Prvo, čini se da svi branitelji umjetne inteligencije dosta ulažu u umjetnu inteligenciju. Drugo, oni uglavnom priznaju da postoji barem određeni rizik u razvoju AI-a s inteligencijom superiornijom od naše. Čini se da je Hoffmanova poanta: vjerujte nam da ćemo ovo učiniti etički, jer ako nas obuzdate, negativci će biti ti koji će raditi na razvoju i tada ćete možda dobiti Skynet.

Započnimo tako što ćemo biti precizniji o čemu raspravljamo. Većina AI radi stvari koje nude dobrobiti, a ne prijetnje čovječanstvu. Na primjer, DeepMindov AlphaFold odredio je strukture oko 200 milijuna proteina, što je veliki znanstveni korak naprijed.

Rasprava koju danas vodimo odnosi se na određenu granu umjetne inteligencije: velike jezične modele (LLM) koje proizvode organizacije kao što je OpenAI, posebice ChatGPT i njegov snažniji nasljednik GPT-4. Pozadina OpenAI-ja je fascinantna. Kad sam se prije sedam godina preselio u Kaliforniju, sudjelovao sam u raspravi sa Samom Altmanom, jednim od osnivača OpenAI.
Poput svog bivšeg partnera Elona Muska, Altman je u nekom trenutku shvatio da je podučavanje neuronskih mreža vožnji teže nego što su pretpostavljali. Stoga se OpenAI okrenuo LLM-u.

Međutim, ubrzo je postalo očito da je izgradnja LLM-a dovoljno snažnog za generiranje vjerodostojnih rezultata preskupa za neprofitnu organizaciju zbog ogromne računalne snage koja je potrebna. Tako je Altman stvorio profitni ogranak OpenAI-ja i prodao veliki udio izvršnom direktoru Microsofta Satyi Nadelli, koji je vidio zlatnu priliku da uhvati korak s Googleom, dotadašnjim liderom u razvoju umjetne inteligencije.
“Dugoročno”, rekao je Altman za Wall Street Journal, želi “postaviti globalnu upravljačku strukturu koja bi nadzirala odluke o budućnosti umjetne inteligencije i postupno smanjivala moć izvršnog tima OpenAI-ja nad svojom tehnologijom.” Krajnja je misija OpenAI-ja, nastavio je, “sigurno” izgraditi umjetnu opću inteligenciju. Cilj je “izbjeći utrku prema izgradnji opasnih AI sustava potaknutih konkurencijom i umjesto toga dati prednost sigurnosti čovječanstva.”
Kratkoročno, međutim, Altman je sada dio te utrke. I to je, naravno, razlog zašto se posvađao ne samo s Muskom, čija je tvrtka Tesla također u utrci, već i s vodećim istraživačem sigurnosti OpenAI-ja, Dariom Amodeijem, koji je napustio OpenAI kako bi osnovao vlastitu AI tvrtku pod nazivom Anthropic , iza kojeg stoji … Google.

Dakle, koliko je opasna ova utrka za profitni LLM? Površno gledano, uopće nije opasno. Kao što moj omiljeni genij, Stephen Wolfram, objašnjava, umjetna inteligencija kao što je ChatGPT “u osnovi uvijek pokušava … proizvesti ‘razuman nastavak’ bilo kojeg teksta koji je do sada dobio, gdje pod ‘razumnim’ mislimo na ‘ono što bi netko mogao očekivati napisano nakon što ste vidjeli što su ljudi napisali na milijardama web-stranica.’ … Kada ChatGPT radi nešto poput pisanja eseja, ono što zapravo radi jest samo pita uvijek iznova ‘s obzirom na dosadašnji tekst, koja bi trebala biti sljedeća riječ?’ — i svaki put dodajući riječ.”
GPT-4 je samo još snažnija neuronska mreža za predviđanje riječi, koja obavlja ogroman broj operacija na nizovima brojeva s GPU-ovima — procesorskim jedinicama koje su izvorno dizajnirane za ubrzavanje grafičkog prikazivanja. Kao rezultat toga, njegov je rezultat još uvjerljivije ljudski nego ChatGPT-ov.

Ne samo da je to prilično vjerojatno, već prema iscrpnom izvješću Bubeck et al. (2023.), GPT-4 također može “riješiti nove i teške zadatke koji obuhvaćaju matematiku, kodiranje, viziju, medicinu, pravo, psihologiju i još mnogo toga, bez potrebe za bilo kakvim posebnim poticajima” i s “izrazito bliskim performansama na ljudskoj razini”.
Dopustite mi da sada ponudim drugačiju analogiju od nuklearnih bombi i biološkog ratovanja. Što više čitam o GPT-4, to više mislim da ovdje ne govorimo o umjetnoj inteligenciji (tj. sintetičkoj ljudskoj inteligenciji), već o neljudskoj inteligenciji, koju smo osmislili i istrenirali da zvuči uvjerljivo poput nas.

Kao što moj kolega s Hoover Instituta Manny Rincon-Cruz kaže: LLM-i ne manipuliraju atomima ili bitovima; manipuliraju nama. I nije toliko važno da će GPT-5 “odlučiti” da nas zbriše. Umjesto toga, rizik je da ćemo se raskomadati kao vrsta korištenjem LLM-a za neplemenite ili podle ciljeve.

Niall Ferguson je kolumnist Bloomberg Opinion. Viši suradnik Milbank Family, Hoover Institution na Sveučilištu Stanford i osnivač Greenmantlea, savjetodavne tvrtke, nedavno je autor knjige “Doom: The Politics of Catastrophe”.

Objavljeno na Bloomberg stranicama, 9.4.2023.g.

Uz izdanje GPT-4, OpenAI je objavio dva dokumenta: tehničko izvješće o mogućnostima GPT-4 i sistemsku karticu, koja detaljno opisuje mnoge rizike koje će GPT-4 predstavljati zajedno s naporima tvrtke da ublaži te štete.
Evo kratkog sažetka nekih problema koji se pojavljuju na kartici sustava:

Veliki modeli će se razmnožavati: Metin jezični model – LLaMA – odmah je procurio preko BitTorrenta nekoliko dana nakon što je objavljen. Sada ga možete pokrenuti na računalu ako imate tehničke vještine.
Neke štete su predvidljive: ako svi imaju moćne AI sustave u svojim džepovima, netko će učiniti loše stvari, poput preplavljenja interneta sintetičkim medijima. OpenAI, Stanford i Centar za sigurnost i nove tehnologije već su objavili izvješće u kojem se opisuju rizici dezinformacija.
Moćni modeli mogu se koristiti na neočekivane načine: pokazalo se da umjesto toga možete koristiti komercijalno dostupan AI model namijenjen otkrivanju novih lijekova za stvaranje patogena. Ovaj model će trenutno generirati više od 40 tisuća patogena – uključujući VX, najsmrtonosniji nervni agens ikada – u otprilike šest sati
Sigurnost i etika bit će žrtve AI utrke: S obzirom na to koliko su ovi sustavi sposobni, nije iznenađujuće da će se obje države i drugi AI laboratoriji utrkivati u nastojanjima da razviju vlastite velike modele. Žurba s uvođenjem ovih sustava vjerojatno će ih natjerati da ignoriraju važna sigurnosna razmatranja.
Zašto je ovo važno: Model ili kartice sustava relativno su novi mehanizmi transparentnosti. Njihov je cilj pružiti sveobuhvatan, ali pristupačan pregled o tome kako su programeri dizajnirali sustav umjetne inteligencije, uključujući detalje o podacima, algoritmima, performansama te etičkim i sigurnosnim pitanjima.
Izvješće OpenAI-ja odstupa od norme ne pružajući pojedinosti o GPT-4, ali karticu sustava ipak vrijedi pročitati u cijelosti s obzirom na to da opsežno pokriva ukupno 11 rizika i predstavlja važan aspekt sigurne implementacije snažnih modela.
Kartica sustava naglašava potrebu za pauziranjem ogromnih eksperimenata umjetne inteligencije: usprkos sveobuhvatnoj pokrivenosti potencijalnih rizika u kartici sustava, niti jedna tvrtka ne može identificirati i ublažiti sve štete povezane s jezičnim modelima ili predvidjeti njihov učinak na društvo.
Trebamo vremena da osmislimo ove sustave za jasnu dobrobit svih i da društvu damo priliku da se prilagodi.
S obzirom na visoke uloge koji su uključeni, u našem smo otvorenom pismu naveli neke odgovore upravljanja za koje smatramo da bi ih trebalo primijeniti prije nego što laboratoriji umjetne inteligencije obuče čak i veće modele. To uključuje:

Nova i sposobna regulatorna tijela posvećena umjetnoj inteligenciji;
Nadzor i praćenje visoko sposobnih AI sustava i velikih skupova računalnih sposobnosti;
Sustavi podrijetla i vodenih žigova koji pomažu u razlikovanju pravog od sintetičkog i za praćenje curenja modela; robustan ekosustav revizije i certificiranja;
Odgovornost za štetu uzrokovanu umjetnom inteligencijom;
Snažno javno financiranje tehničkog sigurnosnog istraživanja umjetne inteligencije;
Institucije s dobrim resursima za suočavanje s dramatičnim ekonomskim i političkim poremećajima (osobito u demokraciji) koje će umjetna inteligencija uzrokovati.