Ključne značajke i etički pristup
Claude 3 pojavljuje se kao Anthropicov inauguracijski multimodalni GenAI, vješt u analizi teksta i slika, sposoban za obradu različitih vrsta dokumenata i usporedbu više slika unutar jednog zahtjeva. Etički osviješten, Anthropic je onemogućio identifikaciju osoba na slikama i priznao ograničenja u analizi slika niske kvalitete i zadataka koji zahtijevaju detaljno prostorno razmišljanje.

Poboljšanja i globalna komunikacija
Novi modeli ističu se u praćenju složenih uputa i pružanju strukturiranih odgovora u različitim formatima. Iako se Claude 3 suočava s izazovima uobičajenim za GenAI, poput pristranosti, obećava višejezično sučelje s nadolazećim značajkama za citiranje izvora radi transparentnosti. Anthropic je predan čestim ažuriranjima kako bi poboljšao mogućnosti Claude 3.

Strategija i vizija cijena
Dostupni sada, Opus i Sonnet nude konkurentne cijene pristupa, a Haiku im se pridružuje kasnije ove godine. Anthropicova strategija odražava njegovu širu viziju razvoja umjetne inteligencije, fokusirajući se na stvaranje autonomnih sustava sposobnih za složene zadatke i generiranje sadržaja.

Unapređujući temeljnu umjetnu inteligenciju, Anthropic cilja na modele koji su u skladu s ljudskim namjerama, predviđajući značajan doprinos evoluciji polja umjetne inteligencije i etičkim razmatranjima.

Alat je još uvijek u ranoj fazi, s ograničenom duljinom i kvalitetom videozapisa, ali nudi jedinstvene značajke poput animiranja slika i ponovnog slikanja videozapisa. Haiper ima za cilj izgraditi zajednicu držeći te značajke besplatnima i razmatra mogućnost otvaranja svojih modela za širu upotrebu. Startup se suočava s konkurencijom u drugim projektima AI generiranja videa od strane divova kao što su Google, Nvidia i Stability AI, naglašavajući brzi razvoj i potencijal sektora.

Ova ambiciozna inicijativa odražava sve veću potražnju za generativnim AI alatima, što dokazuje široki interes za OpenAI-jev ChatGPT i njegove implikacije na različite sektore, od zdravstva do financija. OpenAI je nedavno ostvario više od 2 milijarde dolara godišnjeg prihoda, što ga označava kao jednu od najbrže rastućih tehnoloških kompanija u povijesti.

Wall Street Journal, Feb 02, 2024

Kako bismo bili sigurni da umjetna inteligencija koristi čovječanstvu bez obzira na profit – što je misija kodirana u OpenAI Povelji o osnivanju – zvuči lijepo. Ali to je funkcionalno besmisleno.
Henry Ford je mogao izrađivati automobile, ali nije mogao diktirati kako bi se društvo trebalo mijenjati i prilagođavati se postojanju automobila.

Budućnost umjetne inteligencije razradit će se u tisućama mjesta, po tvrtkama, vladama, kod potrošača, političara i regulatora. Pokušaj razvoja AI bez osiguranja financiranja za enormne troškove računalne opreme i energije je nezamislivo. Još je manje zamisliva mogućnost kontrole korištenja AI kad izađe na tržište.

OpenAI je objavio: “Postigli smo načelni dogovor da se Sam vrati u OpenAI kao izvršni direktor s novim inicijalnim odborom, u sastavu Bret Taylor (predsjednik), Larry Summers i Adam D’Angelo. Surađujemo kako bismo otkrili detalje. Puno vam hvala na strpljenju kroz ovo.”

Predsjednik OpenAI-ja Greg Brockman također je pristao vratiti se nakon što je prethodno podnio ostavku u znak solidarnosti s Altmanom. Brockman više nije u odboru, a još jedan član, Ilya Sutskever, koji je glavni znanstveni istraživač u OpenAI-u i bio je uključen u početno uklanjanje Altmana, također je napustio odbor.

Jasno je da imenovanje Summersa u odbor OpenAI uz potporu Microsofta ukazuje na to da vladajući establišment ubacuje pouzdanog predstavnika američkih financija, političkih interesa i interesa nacionalne sigurnosti u previranjima vodstva u najutjecajnijoj svjetskoj tvrtki za umjetnu inteligenciju.

Podijelili su desetke novih dodataka i poboljšanja te smanjili cijene u mnogim dijelovima platforme. To uključuje:
• Novi GPT-4 Turbo model koji je sposobniji, jeftiniji i podržava 128K kontekstni prozor
• API za nove pomoćnike koji programerima olakšava izradu vlastitih pomoćnih aplikacija za umjetnu inteligenciju koje imaju ciljeve i mogu pozivati modele i alate
• Nove multimodalne mogućnosti na platformi, uključujući vid, stvaranje slika (DALL· E 3) i pretvaranja teksta u govor (TTS)

Prvu verziju GPT-4 objavili su u ožujku i učinili GPT-4 općenito dostupnim svim programerima u srpnju. Danas pokreću pregled sljedeće generacije ovog modela, GPT-4 Turbo.
GPT-4 Turbo je sposobniji i ima znanje o svjetskim događajima do travnja 2023. godine. Ima kontekstni prozor od 128k, tako da može smjestiti ekvivalent više od 300 stranica teksta u jedan upit. Također su optimizirali njegove performanse tako da su u mogućnosti ponuditi GPT-4 Turbo po 3x jeftinijoj cijeni za ulazne tokene i uz 2x jeftiniju cijenu za izlazne tokene u usporedbi s GPT-4.
Objavljen je izlazak API pomoćnika, prvi korak prema pomaganju razvojnim programerima da izgrade iskustva slična agentima unutar vlastitih aplikacija. Pomoćnik je namjenska umjetna inteligencija koja ima specifične upute, koristi dodatno znanje i može pozivati modele i alate za obavljanje zadataka. Novi API pomoćnik pruža mogućnosti kao što su dohvat i tumačenje koda, te vam uz ostale funkcije koje ste prethodno morali sami obaviti omogućuje izradu visokokvalitetnih aplikacija za umjetnu inteligenciju.

GPT-4 Turbo može prihvatiti slike kao ulaze u API za dovršavanje chata, omogućujući slučajeve upotrebe kao što su generiranje titlova, detaljna analiza slika iz stvarnog svijeta i čitanje dokumenata s brojkama. Na primjer, BeMyEyes koristi ovu tehnologiju kako bi pomogao slijepim ili slabovidnim ljudima sa svakodnevnim zadacima poput identificiranja proizvoda ili navigacije trgovinom.
DALL· E 3
Razvojni programeri mogu integrirati DALL· E 3, koji je nedavno lansiran korisnicima ChatGPT Plus i Enterprise, izravno u njihove aplikacije i proizvode putem Images API-ja navodeći dall-e-3 kao model. Tvrtke poput Snapa, Coca-Cole i Shutterstocka koristile su DALL· E 3 za programsko generiranje slika i dizajna za svoje klijente i kampanje.
Pretvaranje teksta u govor (TTS)
Razvojni programeri sada mogu generirati govor ljudske kvalitete iz teksta putem API-ja za pretvaranje teksta u govor. Novi TTS model nudi šest unaprijed postavljenih glasova na izbor i dvije varijante modela.

Više o detaljima, nižim cijenama i ograničenjima pročitajte na OpenAI

LLaMA 2 mogla bi predstavljati prijetnju za OpenAI, Google i druge. Posjedovanje brzog, transparentnog i prilagodljivog modela koji je besplatan za korištenje moglo bi pomoći tvrtkama u stvaranju AI proizvoda i usluga brže nego što bi mogle s velikim, sofisticiranim vlasničkim modelom kao što je OpenAI GPT-4.
Ali ono što se ističe je mjera u kojoj Meta širom otvara svoja vrata. Omogućit će široj AI zajednici preuzimanje modela i njegovo podešavanje. To bi ga moglo učiniti sigurnijim i učinkovitijim. I što je ključno, moglo bi pokazati prednosti transparentnosti u odnosu na tajnost kada je riječ o unutarnjem funkcioniranju AI modela. Ovo ne može biti pravodobnije ili važnije.
Tehnološke tvrtke žure pustiti svoje AI modele u “divljinu”, dok vidimo generativnu AI ugrađenu u sve više proizvoda. Ali najmoćnije modele, poput OpenAI-jevog GPT-4, njihovi tvorci strogo čuvaju. Programeri i istraživači plaćaju da bi dobili ograničeni pristup takvim modelima putem web stranice i ne znaju pojedinosti o njihovom unutarnjem funkcioniranju.
Ova neprozirnost mogla bi dovesti do problema u nastavku, kao što je istaknuto u novom, nerecenziranom radu koji je prošlog tjedna izazvao buku. Istraživači sa Sveučilišta Stanford i UC Berkeley otkrili su da su GPT-3.5 i GPT-4 imali lošije rezultate u rješavanju matematičkih problema, odgovaranju na osjetljiva pitanja, generiranju koda i vizualnom zaključivanju nego prije nekoliko mjeseci.

Zbog nedostatka transparentnosti ovih modela teško je točno reći zašto bi to moglo biti, ali bez obzira na to, rezultate treba uzeti s rezervom, piše u svojoj procjeni profesor informatike s Princetona Arvind Narayanan. Vjerojatnije su uzrokovane “hirovitostima procjene” nego dokazom da je OpenAI pogoršao modele. On smatra da su istraživači propustili uzeti u obzir da je OpenAI fino podesio modele kako bi bolje funkcionirali i da je to nenamjerno uzrokovalo da neke tehnike podsticanja prestanu raditi kao što su radile u prošlosti.
Ovo ima neke ozbiljne implikacije. Tvrtke koje su izradile i optimizirale svoje proizvode za rad s određenom iteracijom OpenAI-jevih modela mogle bi “100%” vidjeti da se iznenada kvare i pokvare, kaže Sasha Luccioni, istraživač umjetne inteligencije u startupu Hugging Face. Kada OpenAI fino podešava svoje modele na ovaj način, proizvodi koji su izrađeni korištenjem vrlo specifičnih upita, na primjer, mogu prestati raditi na način na koji su radili prije. Zatvorenim modelima nedostaje odgovornosti, dodaje ona. “Ako imate proizvod i promijenite nešto u proizvodu, trebali biste reći svojim kupcima.”
Otvoreni model poput LLaMA 2 barem će razjasniti kako je tvrtka dizajnirala model i koje je tehnike obuke koristila. Za razliku od OpenAI-ja, Meta je podijelila cijeli recept za LLaMA 2, uključujući pojedinosti o tome kako je trenirana, koji je hardver korišten, kako su podaci označeni i koje su tehnike korištene za ublažavanje štete. Ljudi koji istražuju i grade proizvode na ovom modelu znaju točno na čemu rade, kaže Luccioni.
“Jednom kada dobijete pristup modelu, možete izvoditi razne vrste eksperimenata kako biste bili sigurni da ćete dobiti bolje performanse ili manje pristranosti, ili što god već tražite”, kaže ona.

U konačnici, otvorena naspram zatvorena rasprava oko umjetne inteligencije svodi se na to tko odlučuje. S otvorenim modelima korisnici imaju više snage i kontrole. Sa zatvorenim modelima prepušteni ste na milost i nemilost njihovom tvorcu. Imati veliku tvrtku kao što je Meta koja objavljuje tako otvoren, transparentan model umjetne inteligencije čini se kao potencijalna prekretnica u generativnoj zlatnoj groznici umjetne inteligencije.
Ako se proizvodi izgrađeni na razvikanim vlasničkim modelima iznenada pokvare na neugodan način, a razvojni programeri ne znaju zašto bi to moglo biti, otvoreni i transparentni AI model sa sličnim performansama odjednom će se činiti kao mnogo privlačniji—i pouzdaniji— izbor.

Meta ovo ne radi u dobrotvorne svrhe. Ima mnogo koristi ako dopusti drugima da ispitaju nedostatke u njegovim modelima. Ahmad Al-Dahle, potpredsjednik u Meta-i koji vodi njezin generativni rad na umjetnoj inteligenciji, rekao je da će tvrtka preuzeti ono što nauči od šire vanjske zajednice i koristiti to kako bi nastavila poboljšavati svoje modele.
Ipak, to je korak u pravom smjeru, kaže Luccioni. Ona se nada da će Meta-in potez izvršiti pritisak na druge tehnološke tvrtke s AI modelima da razmotre otvoreniji put.

The Algorithm, MIT

Sažetak :
• Izvršni direktor OpenAI, Sam Altman, suočio se s pitanjima o umjetnoj inteligenciji (AI) na saslušanju u američkom Senatu
• Tvrtka je stvorila aplikaciju ChatGPT koja može pisati eseje, skripte, pjesme i rješavati računalno kodiranje na ljudski način
• Altman je rekao američkom Senatu da njegovu industriju treba regulirati vlada jer umjetna inteligencija postaje ‘sve moćnija’
• Političari su tražili odgovore o potencijalnim prijetnjama koje umjetna inteligencija predstavlja i potaknuli strahove zbog izbora 2024.
• Nekoliko stručnjaka, uključujući dr. Geoffreya Hintona, takozvanog kuma umjetne inteligencije, nedavno je izrazilo zabrinutost zbog tehnologije koja se brzo razvija

Evo nekih ključnih trenutaka :
• Richard Blumenthal, predsjednik senatskog pododbora za privatnost, pustio je izjavu koju je umjetna inteligencija izmanipulirala da zvuči poput njega dok je govorio o potencijalnim štetnostima tehnologije
• Izvršni direktor OpenAI-ja Sam Altman rekao je da umjetna inteligencija ima potencijal riješiti “najveće izazove čovječanstva, poput klimatskih promjena i liječenja raka”
• Altman i njegovi kolege svjedoci složili su se da je državna regulativa “ključna” za budućnost industrije
• Profesor Gary Marcus, skeptik prema umjetnoj inteligenciji, rekao je da su SAD i drugi “presporo djelovali s regulacijom društvenih medija”, ali da sada moraju odlučiti o izboru u vezi s umjetnom inteligencijom
• Marcus je predložio novu agenciju na razini vlade koja bi regulirala sektor, ideju koju je Altman također podržavao
• Altman je rekao da će napredak umjetne inteligencije značajno utjecati na radnu snagu, ali trenutni modeli ostaju “alat, a ne stvorenje”
• Upitan o utjecaju umjetne inteligencije na glazbu, Altman je rekao da kreatori sadržaja trebaju imati pravo glasa o tome kako se njihovi glasovi, sličnosti ili sadržaj zaštićen autorskim pravima koriste za treniranje modela umjetne inteligencije
• Christina Montgomery, IBM-ova glavna službenica za privatnost i povjerenje, rekla je da se pravila EU-a o umjetnoj inteligenciji “reguliraju prema kontekstu” i daju dobar trag koji SAD treba slijediti
• Blumenthal je rekao da bi tvrtke s umjetnom inteligencijom trebale voditi s pristupom “ne šteti”, ali je priznao da neće biti pauze u razvoju umjetne inteligencije dok regulatori ne sustignu korak

Dok industrijski stručnjaci i akademici zvone za uzbunu, Washington je brzo usmjerio pozornost na umjetnu inteligenciju. Ali teško da postoji koordiniran pristup kada je u pitanju regulacija tehnologije koja se brzo kreće. Administracija predsjednika Joea Bidena pokrenula je niz izvršnih mjera za proučavanje tehnologije, dok čelnik većine u Senatu Chuck Schumer,  radi sa stručnjacima i dionicima na razvoju širokog zakonodavnog okvira za reguliranje umjetne inteligencije. Bez jasnog plana za rješavanje problema, više odbora na Capitol Hillu održava vlastita javna saslušanja i privatne sastanke kako bi pokušali riješiti AI sposobnosti koje su u njihovoj nadležnosti.
“Stvarnost je da je razvoj umjetne inteligencije velikom brzinom i da nitko od nas ne može držati korak s tim”, rekao je u intervjuu senator Peter Welch, član Odbora za trgovinu, znanost i transport. “Mislim da je važno da zajedno razgovaramo o vrijednostima za koje se nadamo da ćemo poboljšati, očuvati i zaštititi pomoću umjetne inteligencije”, rekao je, “ali daleko smo od koordiniranog pristupa.”

Ovaj tjedan, izvršni direktor OpenAI, Sam Altman, jedan od vodećih aktera u razvoju umjetne inteligencije, obratit će se članovima Kongresa. Altman će razgovarati s republikancima i demokratima Zastupničkog doma tijekom rasprave na večeri koju će u ponedjeljak navečer voditi potpredsjednik Konferencije GOP-a Mike Johnson i potpredsjednik Kluba demokrata Ted Lieu. Zatim će u utorak, Altman svjedočiti o umjetnoj inteligenciji po prvi put na Capitol Hillu, pojavivši se pred pravosudnim pododborom za privatnost i tehnologiju.

Umjesto da predlaže sveobuhvatne zakone o umjetnoj inteligenciji za čije bi donošenje mogle biti potrebne godine, Bidenova administracija koristi svoje postojeće ovlasti kako bi pokušala oblikovati tehnologije umjetne inteligencije i osigurati da se razvijaju i koriste odgovorno. Čak i neki zakonodavci koji se agresivno zalažu za nove zakone o umjetnoj inteligenciji vide prednost u tome što Biden poduzima izvršne mjere kako bi pokušao utjecati na brzi razvoj alata umjetne inteligencije, od OpenAI iznimno popularnog chatbota ChatGPT do generatora slika umjetne inteligencije i softvera za kloniranje glasa koji zavaravaju obične Amerikance. Nekoliko agencija, uključujući Ministarstvo pravosuđa i Povjerenstvo za jednake mogućnosti zapošljavanja, rekli su da prate automatizirane sustave koji bi mogli nezakonito diskriminirati, poput algoritama koji bi osobi mogli uskratiti smještaj na temelju njezine rase. Savezna komisija za trgovinu zaprijetila je da će istražiti tvrtke koje prenaglašavaju svoju upotrebu umjetne inteligencije za potencijalno lažno oglašavanje.

Dr.Geoffrey Hinton bio je pionir umjetne inteligencije. Godine 2012. dr.Hinton i dva njegova diplomirana studenta na Sveučilištu u Torontu stvorili su tehnologiju koja je postala intelektualni temelj za AI sustave za koje najveće tvrtke tehnološke industrije vjeruju da su ključ njihove budućnosti. Međutim, u ponedjeljak se službeno pridružio sve većem zboru kritičara koji kažu da te tvrtke jure prema opasnosti svojom agresivnom kampanjom za stvaranje proizvoda temeljenih na generativnoj umjetnoj inteligenciji, tehnologiji koja pokreće popularne chatbotove poput ChatGPT-a.
Dr.Hinton je rekao da je dao otkaz na poslu u Googleu, gdje je radio više od desetljeća i postao jedan od najcjenjenijih glasova u tom području, tako da može slobodno govoriti o rizicima A.I. Dio njega, rekao je, sada žali za svojim životnim djelom. “Tješim se uobičajenim izgovorom: da nisam ja to učinio, netko drugi bi”, rekao je dr. Hinton tijekom podužeg intervjua prošli tjedan u blagovaonici svog doma u Torontu, nekoliko minuta hoda od mjesta gdje su on i njegovi učenici napravili svoj proboj.
Putovanje dr. Hintona od AI pionira do proricatelja sudbine označava izuzetan trenutak za tehnološku industriju na njezinoj možda najvažnijoj prekretnici u desetljećima. Čelnici industrije vjeruju da bi novi AI sustavi mogli biti jednako važni kao uvođenje web preglednika u ranim 1990-ima i mogli bi dovesti do otkrića u područjima od istraživanja lijekova do obrazovanja.
Ali mnoge insajdere u industriji grize strah da puštaju nešto opasno u divljinu. Generativni AI već može biti alat za dezinformiranje. Uskoro bi to moglo predstavljati rizik za radna mjesta. Negdje niz liniju, kažu najveći zabrinuti za tehnologiju, to bi mogao biti rizik za čovječanstvo. “Teško je vidjeti kako možete spriječiti loše glumce da to iskoriste za loše stvari”, rekao je dr.Hinton.
Nakon što je start-up OpenAI iz San Francisca u ožujku objavio novu verziju ChatGPT-a, više od 1000 tehnoloških vođa i istraživača potpisalo je otvoreno pismo pozivajući na šestomjesečni moratorij na razvoj novih sustava jer AI tehnologije predstavljaju “duboke rizike za društvo i čovječanstvo.” Nekoliko dana kasnije, 19 sadašnjih i bivših čelnika Udruge za unapređenje umjetne inteligencije, 40-godišnjeg akademskog društva, objavilo je vlastito pismo upozoravajući na rizike od AI. Ta je skupina uključivala Erica Horvitza, glavnog znanstvenog direktora u Microsoftu, koji je implementirao tehnologiju OpenAI-ja u širok raspon proizvoda, uključujući svoju tražilicu Bing.
Dr. Hinton, često nazivan “kum umjetne inteligencije”, nije potpisao nijedno od tih pisama i rekao je da ne želi javno kritizirati Google ili druge kompanije dok ne da otkaz na poslu. On je prošlog mjeseca obavijestio tvrtku da daje ostavku, a u četvrtak je telefonski razgovarao sa Sundarom Pichaijem, izvršnim direktorom Googleove matične tvrtke Alphabet. Odbio je javno govoriti o detaljima razgovora s gospodinom Pichaijem. Googleov glavni znanstvenik, Jeff Dean, rekao je u izjavi: “Ostajemo predani odgovornom pristupu AI. Kontinuirano učimo razumjeti nove rizike, a istovremeno hrabro inoviramo.”

Dr.Hinton, 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera vođena njegovim osobnim uvjerenjima o razvoju i korištenju umjetne inteligencije. Godine 1972., kao diplomirani student na Sveučilištu u Edinburghu, dr.Hinton prihvatio je ideju zvanu neuronska mreža. Neuronska mreža je matematički sustav koji uči vještine analizom podataka. U to je vrijeme malo istraživača vjerovalo u tu ideju. Ali to je postalo njegovo životno djelo. U 1980-ima dr. Hinton je profesor informatike na Sveučilištu Carnegie Mellon, ali je napustio sveučilište i otišao u Kanadu jer je rekao da nerado prihvaća sredstva Pentagona. U to vrijeme većina AI istraživanja u Sjedinjenim Državama financiralo je Ministarstvo obrane. Dr. Hinton duboko se protivi korištenju umjetne inteligencije na bojnom polju – onoga što on naziva “roboti vojnici”.

Godine 2012. dr.Hinton i dva njegova studenta u Torontu, Ilya Sutskever i Alex Krishevsky, izgradili su neuronsku mrežu koja je mogla analizirati tisuće fotografija i sama sebe naučiti identificirati uobičajene objekte, poput cvijeća, pasa i automobila. Google je potrošio 44 milijuna dolara za kupnju tvrtke koju su pokrenuli dr. Hinton i njegova dva učenika. A njihov je sustav doveo do stvaranja sve moćnijih tehnologija, uključujući nove chatbotove kao što su ChatGPT i Google Bard. G. Sutskever je postao glavni znanstvenik u OpenAI-ju. Godine 2018. dr. Hinton i još dvoje dugogodišnjih suradnika primili su Turingovu nagradu, često nazivanu “Nobelovom nagradom za računalstvo”, za svoj rad na neuronskim mrežama.
Otprilike u isto vrijeme, Google, OpenAI i druge tvrtke započele su s izgradnjom neuronskih mreža koje su učile iz ogromnih količina digitalnog teksta. Dr. Hinton je mislio da je to moćan način da strojevi razumiju i generiraju jezik, ali inferioran u odnosu na način na koji ljudi barataju jezikom. No prošle godine, kad su Google i OpenAI izgradili sustave koristeći mnogo veće količine podataka, njegovo se gledište promijenilo. I dalje je vjerovao da su sustavi inferiorni ljudskom mozgu na neke načine, ali je mislio da zasjenjuju ljudsku inteligenciju na druge. “Možda je ono što se događa u tim sustavima,” rekao je, “zapravo puno bolje od onoga što se događa u mozgu.”

Kako tvrtke poboljšavaju svoje AI sustave, smatra, oni postaju sve opasniji. “Pogledajte kako je bilo prije pet godina i kako je sada”, rekao je o AI tehnologiji. “Uzmite razliku i propagirajte je naprijed. To je zastrašujuće.” Sve do prošle godine, rekao je, Google je djelovao kao “pravi upravitelj” tehnologije, pazeći da ne objavi nešto što bi moglo prouzročiti štetu. Ali sada kada je Microsoft proširio svoju tražilicu Bing s chatbotom – izazivajući Googleovu osnovnu djelatnost – Google se utrkuje u implementaciji iste vrste tehnologije. Tehnološki divovi uhvaćeni su u natjecanje koje je možda nemoguće zaustaviti, rekao je dr. Hinton. Njegova trenutna briga je da će internet biti preplavljen lažnim fotografijama, videima i tekstovima, a prosječna osoba “više neće moći znati što je istina”. Također je zabrinut da će AI tehnologije s vremenom preokrenuti tržište rada. Danas chatbotovi poput ChatGPT-a obično nadopunjuju ljudske radnike, ali bi mogli zamijeniti pravnike, osobne asistente, prevoditelje i druge koji obavljaju zadatke napamet. “To oduzima težak posao”, rekao je. “Moglo bi oduzeti više od toga.”
U nastavku je zabrinut da buduće verzije tehnologije predstavljaju prijetnju čovječanstvu jer često uče neočekivano ponašanje iz golemih količina podataka koje analiziraju. To postaje problem, rekao je, jer pojedinci i tvrtke dopuštaju AI sustavu ne samo generiranje vlastitog računalnog koda, već i samostalno pokretanje tog koda. I boji se dana kada će istinski autonomno oružje – ti roboti ubojice – postati stvarnost. “Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi – nekoliko je ljudi vjerovalo u to”, rekao je. “Ali većina ljudi je mislila da je to daleko. I ja sam mislio da je daleko. Mislio sam da je to za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako”. Mnogi drugi stručnjaci, uključujući mnoge njegove studente i kolege, kažu da je ova prijetnja hipotetska. No dr. Hinton vjeruje da će utrka između Googlea i Microsofta i ostalih eskalirati u globalnu utrku koja neće prestati bez neke vrste globalne regulacije. Ali to je možda nemoguće, rekao je. Za razliku od nuklearnog oružja, rekao je, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti. Najbolja nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije. “Mislim da ne bi trebali ovo povećavati sve dok ne shvate mogu li to kontrolirati”, rekao je.

Dr.Hinton je, kada bi ga ljudi pitali kako može raditi na tehnologiji koja je potencijalno opasna, parafrazirao Roberta Oppenheimera, koji je predvodio američke napore da se napravi atomska bomba: “Kada vidiš nešto što je tehnički slatko, ideš naprijed i učiniš to.”
On to više ne govori.

(C) New York Times, May 1, 2023 by Cade Metz

“Temeljni duh u mnogim raspravama o tempu napretka umjetne inteligencije – da moramo vrlo ozbiljno shvatiti sigurnost i nastaviti s oprezom – ključan je za našu misiju. Proveli smo više od 6 mjeseci testirajući GPT-4 i učinivši ga još sigurnijim, izgradili smo ga na godinama istraživanja usklađivanja koje smo provodili u iščekivanju modela poput GPT-4.

Očekujemo da ćemo nastaviti povećavati svoje sigurnosne mjere proaktivnije nego što bi mnogi naši korisnici željeli. Naš opći cilj je da svaki model koji isporučimo bude naš najusklađeniji do sada, a to je do sada bilo istinito od GPT-3 (u početku implementiran bez ikakvog posebnog usklađivanja), GPT-3.5 (dovoljno usklađen da se može implementirati u ChatGPT) i sada GPT-4 (radi puno bolje na svim našim sigurnosnim metrikama nego GPT-3.5).

Vjerujemo (i to smo govorili u političkim raspravama s vladama) da bi provođenje moćnih treninga trebalo biti prijavljeno vladama, popraćeno sve sofisticiranijim predviđanjima njihove sposobnosti i utjecaja, zahtijevajući najbolje prakse kao što je opasno testiranje sposobnosti. Smatramo da su upravljanje velikim korištenjem računala, sigurnosnim standardima i regulacijom/dijeljenjem lekcija iz implementacije dobre ideje, ali detalji su stvarno važni i trebali bi se prilagođavati s vremenom kako se tehnologija razvija. Također je važno pozabaviti se cijelim spektrom rizika od današnjih problema (npr. sprječavanje zlouporabe ili samoozljeđivanja, ublažavanje predrasuda) do dugoročnih egzistencijalnih problema.

Možda su najčešća tema iz duge povijesti umjetne inteligencije bila netočna pouzdana predviđanja stručnjaka. Jedan od načina da se izbjegnu neuočene pogreške u predviđanju je da tehnologija u svom trenutnom stanju ima rani i česti kontakt sa stvarnošću dok se iterativno razvija, testira, implementira i cijelo vrijeme poboljšava. A postoje i kreativne ideje o kojima ljudi često ne raspravljaju, a koje mogu poboljšati sigurnosno okruženje na iznenađujuće načine — na primjer, lako je stvoriti kontinuum postupno boljih AI-ova (kao što je postavljanje sljedećih kontrolnih točaka danog treninga), koji predstavlja sigurnosnu priliku vrlo različitu od našeg povijesnog pristupa rijetkih velikih nadogradnji modela.

Nadolazeća transformativna tehnološka promjena umjetne inteligencije je nešto što je istovremeno razlog za optimizam i zabrinutost — cijeli niz emocija je opravdan i dijele ga i ljudi unutar OpenAI. Posebna je prilika i obveza za sve nas da smo živi u ovom vremenu, da imamo priliku zajedno osmišljavati budućnost.”

” …to be alive at this time,…” fraza potaknula je raspravu na Twitteru, očekujemo nove komentare.