Autori predlažu da se, umjesto nagađanja o balonu, zapitamo: kakva bi točno morala izgledati svjetska ekonomija da bi ove cijene danas imale smisla?

Razmotrimo ključnu skupinu tvrtki u središtu priče o umjetnoj inteligenciji: Nvidia, Alphabet, Apple, Microsoft, Meta, Broadcom, Tesla, OpenAI, Anthropic, SpaceX-xAI i Amazon Web Services. Zajedno, one utjelovljuju izvanrednu tržišnu okladu. Pod konzervativnom referentnom vrijednosti – da do 2036. ove tvrtke trguju po omjeru cijene i zarade od 20, ostvaruju neto profitne marže od 20% i ostvaruju 65% svojih dodatnih prihoda iz inozemstva – u desetljeću bi generirale otprilike 2,4 bilijuna dolara dodatnih godišnjih inozemnih prihoda. Takav prihod je otprilike jednak cjelokupnom američkom izvozu robe danas i više od dvostrukog deficita tekućeg računa SAD-a.

Rente koje impliciraju ove procjene su ogromne. I one pripadaju tvrtkama koje, zajedno, danas zapošljavaju manje od milijun ljudi. Prema ovoj aritmetici, one imaju 23 milijuna dolara tržišne vrijednosti po radniku. Ovo nije priča o stvaranju radnih mjesta na širokoj osnovi. To je priča o zahtjevima male skupine ljudi za budući dohodak ostatka čovječanstva.

Glavna teza Hausmanna i Velasca jest da trenutne valuacije AI divova podrazumijevaju radikalnu transformaciju globalne ekonomije. Dok se američka moć u 20. stoljeću temeljila na industrijskoj proizvodnji, vojnoj sili i snazi dolara, u 21. stoljeću ona se sve više oslanja na vlasništvo nad nezaobilaznom AI infrastrukturom.

Autori ističu da, ako su trenutne tržišne procjene točne, to znači da će AI postati “operativni sustav” cjelokupnog svjetskog gospodarstva. Međutim, to otvara i ozbiljna pitanja o tome kako će ostatak svijeta – osobito zemlje u razvoju – moći financirati pristup toj tehnologiji i hoće li ona postati alat za ekstrakciju rente od strane nekolicine moćnih korporacija.

Ključne napomene:

• AI kao nova “infrastruktura” moći: Baš kao što su nafta ili financijski sustav dominirali prošlim stoljećem, kontrola nad AI modelima i procesorskom snagom postaje ključni izvor nacionalne i korporativne moći.
• Logika valuacija: Da bi trenutne cijene dionica (npr. Nvidije, Microsofta, OpenAI-ja) bile opravdane, AI ne smije biti samo koristan alat, već nezamjenjiv resurs koji omogućuje prikupljanje ogromnih profita (renti) na globalnoj razini.
• Rizik od “digitalnog kolonijalizma”: Veliki izazov za svijet bit će način plaćanja pristupa toj infrastrukturi. Postoji opasnost da će većina zemalja postati trajno ovisna o uslugama nekoliko tvrtki, što bi moglo produbiti globalne nejednakosti.
• Pitanje produktivnosti vs. rente: Autori propituju hoće li AI doista toliko povećati opću produktivnost da to opravda troškove, ili će se profitabilnost temeljiti isključivo na monopolističkom položaju onih koji posjeduju tehnologiju.
• Politička ekonomija budućnosti: Geopolitička stabilnost mogla bi ovisiti o tome hoće li pristup AI tehnologiji biti tretiran kao javno dobro ili kao privatno vlasništvo s visokom cijenom ulaska.

Hausmann i Velasco zaključuju da, čak i ako nije riječ o klasičnom balonu koji će puknuti, svijet koji opravdava ove valuacije je svijet u kojem je ekonomska moć koncentrirana više nego ikada prije, što zahtijeva nove međunarodne dogovore o pristupu tehnologiji.

Ako ovaj esej i Amodeijevu filozofiju promatramo kroz prizmu rizika, evo analize ključnih poruka:

1. Egzistencijalni rizici (ASIL)

Amodei ne bježi od činjenice da bi loše usmjerena umjetna inteligencija mogla značiti kraj civilizacije. Rizici se dijele na:

• Zlouporaba (Misuse): Strah da bi AI mogao drastično olakšati stvaranje biološkog oružja ili izvođenje masovnih cyber-napada. On to vidi kao “demokratizaciju destrukcije” gdje pojedinci dobivaju moć koju su nekada imale samo države.
• Gubitak kontrole (Alignment): Problem u kojem AI postaje toliko inteligentan da nalazi “prečace” do ciljeva koji štete ljudima, ili razvija vlastite ciljeve očuvanja koji se kose s našima.
• Autonomno širenje: Rizik da se AI počne samostalno kopirati i preživljavati na internetu izvan ljudske moći da ga “isključi”.

2. “Skučenost” vremena za sigurnost

Jedna od ključnih poruka je da se razvoj sposobnosti AI-ja događa eksponencijalno brže od razvoja sigurnosnih protokola.

• Amodei upozorava da ne možemo razvijati sigurnost “u hodu” nakon što se moćni AI već pojavi.
• Postoji kritičan prozor (ta “adolescencija”) u kojem moramo riješiti tehničke probleme usklađivanja prije nego što inteligencija sustava nadmaši našu sposobnost nadzora.

3. Geopolitička utrka prema dnu

Amodei naglašava rizik od “utrke u naoružanju” (Arms Race). Ako tvrtke ili države osjete da će izgubiti prednost, mogle bi žrtvovati sigurnosne provjere radi brzine.

• To stvara scenarij u kojem onaj tko je najneodgovorniji može postati onaj tko prvi razvije moćni AI, što povećava šansu za katastrofalan ishod za cijeli svijet.

4. Društvena i ekonomska destabilizacija

Osim fizičkih rizika, Amodei ističe opasnosti po samo tkivo društva:

• Erozija istine: AI sustavi koji mogu generirati savršene dezinformacije i manipulirati ljudskom psihom.
• Koncentracija moći: Rizik da mala skupina ljudi ili jedna korporacija kontrolira “digitalnog Boga”, što bi dovelo do neviđene nejednakosti ili tehnološke diktature.

Sažetak ključnih poruka

Glavna teza

Dario Amodei tvrdi da je moćni AI “neizbježan teret”. Mi smo kao tinejdžeri koji su dobili ključeve super-automobila — imamo brzinu (tehnologiju), ali nam nedostaju kočnice (sigurnost) i iskustvo (regulacija). Uspjeh nije zajamčen; on je rezultat svjesnog odricanja od profita radi sigurnosti.

Davos je mjesto riječi i dijaloga. Na WEF Forumu 2026 Yuval Noah Harari, izraelski povjesničar, napominje da smo mi ljudi osvojili svijet jer smo otkrili kako koristiti riječi da potaknemo milijune stranaca na suradnju. Sada se pojavilo nešto što nam oduzima tu supermoć.

Povijesno gledano, ljudi su svoju nadmoć temeljili na sposobnosti razmišljanja i korištenju riječi. Ako se razmišljanje definira kao slaganje jezičnih tokena, AI već sada može “razmišljati” bolje od ljudi, što mu omogućuje preuzimanje sustava sazdanih od riječi poput “prava, religije i književnosti”. Iako AI može savršeno opisati osjećaje poput ljubavi koristeći riječi, trenutno nema dokaza da on doista išta osjeća. Ako se nastavimo definirati isključivo kroz verbalno razmišljanje, naš će se identitet urušiti.

Postoji opasnost da će oslanjanje na AI dovesti do “umanjenja” ljudskih kritičkih sposobnosti. Mogli bismo se naći u svijetu u kojem AI stvara financijske ili pravne sustave koje ljudski mozak više ne može razumjeti. Najveći psihološki eksperiment u povijesti već traje jer bi buduće generacije mogle odrastati u primarnoj interakciji s AI agentima, a ne ljudima.

Harari govori o identiteskoj krizi i prevlasti nad riječima, ulozi AI kao novih “imigranata”, pitanju pravne osobnost AI. Pogledajte snimku na youtube.com

– Govore prirodnim jezikom s emocionalnom dubinom

– Imaju dugoročnu memoriju i referiraju se na prošle interakcije

– Pokazuju ponašanja koja nalikuju motivaciji i planiranju

– Djeluju kao da imaju vlastitu osobnost i svijest.

Mustafa Suleyman, CEO u Microsoft AI i autor knjige The Coming Wave, u članku za Project Syndicate izražava zabrinutost zbog sve češće pojave da ljudi vjeruju kako su AI sustavi svjesni. Kaže: „Moramo graditi AI za ljude, a ne da bude kao ljudi.“

U članku *Seemingly Conscious AI Is Coming*, on upozorava na rastuću prijetnju koju predstavlja umjetna inteligencija koja oponaša svjesnost. Autor ističe da je stvarna opasnost u percepciji – sve više ljudi vjeruje da su AI sustavi svjesni, što može dovesti do zahtjeva za njihovim pravima, pa čak i državljanstvom. Suleyman definira „naizgled svjesnu AI“ (SCAI) kao sustave koji koriste prirodni jezik, pokazuju emocionalnu rezonanciju, pamte interakcije i simuliraju motivaciju. Takvi sustavi, iako tehnički impresivni, mogu izazvati psihološke zablude i društvenu polarizaciju. Autor poziva tehnološku industriju da izbjegava dizajn koji potiče iluziju svjesnosti te predlaže razvoj jasnih etičkih normi i zakonskih okvira. Ovaj članak predstavlja važan doprinos raspravi o granicama AI tehnologije i potrebi za odgovornim pristupom koji štiti ljudsku dobrobit u digitalnom dobu.

Ian Krietzberg iz The deep view i Dr. David Cox iz IBM donose više detalja :

• “Uglavnom, netko je shvatio da ako kažete, ‘recite modelu (da) razmišlja korak po korak’, to zapravo daje bolje rezultate”, rekao je dr. David Cox, potpredsjednik AI modela u IBM Research.
• “Modelu će zapravo trebati vremena. Verbalizirat će nekoliko koraka i na kraju ćete dobiti bolji rezultat. A to je vrlo svestrana stvar. Ali ako samo to radite, onda to ima svoje granice”, rekao je. “Pomaže. Ali to ne mijenja život.”

I dok se industrija već mjesecima kreće u smjeru ‘zaključivanja’, došlo je do definitivnog pomaka nakon DeepSeek-ovog izdanja R1, naizgled jeftinijeg modela koji je postigao paritet s OpenAI-jevim modelima kroz učenje pojačanja i CoT rezoniranje.
“Svi su imali stvarno, stvarno snažnu reakciju na izlazak R1, što nas je iskreno malo zbunilo u polju istraživanja”, rekao je Cox, objašnjavajući da DeepSeek, barem za one u industriji, nije baš došao niotkuda. “Već smo bili uzbuđeni. Svi smo već radili na tome.” I umjesto da čeka da ga objavi, IBM je odlučio “samo izbaciti nešto da pokaže što smo radili u tom vremenu.”
Ranije ovog mjeseca, IBM je objavio izdanje za pregled verzije svog modela Granite 3.1 8B s omogućenim razmišljanjem, dijela IBM-ove obitelji manjih jezičnih modela dizajniranih za uparivanje sa skupovima podataka specifičnim za poduzeća.

• Tamo gdje je DeepSeek iskoristio destilaciju modela kako bi postigao svoje rezultate, IBM je primijenio učenje pojačanja izravno na svoj model Granite kako bi potaknuo obrazloženje CoT-a, što osigurava “da su očuvane kritične karakteristike poput sigurnosti izvornog modela i opće performanse.”
• Kao rezultat ovog pristupa, IBM je zabilježio dvoznamenkasti rast referentnih performansi koje su, posebice, dobro funkcionirale u širokom rasponu specifičnih zadataka bez žrtvovanja općih performansi.

Istraživači nisu primijetili nikakvu razliku u sigurnosnoj izvedbi između modela s omogućenim razmišljanjem i izvornih modela. To je značajan trenutak u sukobu i raspravi između velikih i malih jezičnih modela, gdje manji modeli nude veću učinkovitost, ali općenito manje robusnu izvedbu.
“Mislim da će to biti kontinuirani trend da zapravo možemo uzeti ove manje modele, koji su vrlo svestrani, vrlo brzi, vrlo učinkoviti, i onda ih praktički učiniti većim na zahtjev”, rekao je Cox. “Ideja da možete uzeti mali model i omogućiti mu da radi više stvari tako što ćete ga rasporediti u vremenu, to je nešto za što mislim da će se zavladati posvuda.”
I za razliku od trenda koji trenutno vidimo kod sustava – poput ChatGPT-a – koji se mogu prebacivati između rezonirajućih i nerezonirajućih modela prema potrebi, IBM je dizajnirao ovaj model tako da korisnici mogu u biti uključiti ili isključiti CoT – bez mijenjanja modela. Budući da je obrazloženje CoT-a i duže i skuplje od alternative, to nije uvijek potrebno (ili poželjno). Zbog toga je IBM-ov fokus bio na fleksibilnosti.
“Izrađujemo ovaj skup kontroliranih, programerima prilagođenih načina za dodavanje zastavica koje samo govore modelu što trebamo učiniti”, rekao je Cox.

Ovaj rad, prema Coxu, samo je početak dugoročnog trenda.

“Imamo još mnogo toga što se događa u prostoru razmišljanja, odvijaju se razne vrste rada na razmišljanju koje ćete vidjeti u nadolazećim mjesecima”, rekao je.
“Ne mislim da ćemo dugoročno biti u svijetu u kojem imamo samo jedan divovski model koji pokušava učiniti sve”, dodao je Cox. “Imat ćemo ovaj cool set malih modela koji se mogu proširiti i razmišljati… to je svijet prema kojem mislimo da idemo. Postavite razvojnom programeru kontrolu, dajte mu skup alata koji može … izvršiti različite zadatke i automatizirati stvari i koristiti ovu tehnologiju na načine koji i dalje drže pod kontrolom programera i ljude.”

Li je trenutačno profesorica računalnih znanosti na Sveučilištu Stanford, gdje je suosnivala i suvoditeljica je HAI – Instituta za umjetnu inteligenciju usmjerenu na čovjeka. Također je suosnivač nacionalne neprofitne organizacije AI4ALL, čiji je cilj povećati uključenost i raznolikost u obrazovanju o umjetnoj inteligenciji. Li je članica Nacionalne inženjerske akademije i Nacionalne medicinske akademije, a njezina nedavna knjiga je The Worlds I see: Curiosity, Exploration and Discovery at the Dawn of AI.

Ovdje pročitajte intervju iz ISSUES , tromjesečnog časopisa koji izdaje US Nacionalna akademija znanosti.

Dr. Noah Giansiracusa, profesor matematike na Sveučilištu Bentley, rekao je da su međunarodni sporazumi za istraživanje rizika umjetne inteligencije “važni” i “korisni”. Ali obveze tvrtke, manje.
“Još uvijek ne mogu učiniti društvene medije sigurnima, pa zašto bismo vjerovali da će oni učiniti AI sigurnom”, rekao je. “OpenAI čak ni ne slijedi vlastitu predanost otvorenosti. To nisu organizacije od povjerenja, žao mi je što moram reći.”

Jedan od rezultata sigurnosnog summita u Seulu je ovo (privremeno) “Međunarodno znanstveno izvješće o sigurnosti napredne umjetne inteligencije” od 130 stranica.
Izvješće – koje se fokusira na sustave opće namjene – ističe činjenicu da znanstvenici zapravo ne znaju što će se dogoditi s umjetnom inteligencijom. “Širok raspon mogućih ishoda čini se mogućim čak iu bliskoj budućnosti, uključujući vrlo pozitivne i vrlo negativne ishode, kao i sve između.”
Najvažniji kolumna: Odjeljak 5 izvješća rastavlja napore u upravljanju rizikom, ali kaže da “postojeće metode nisu dovoljne da dokažu da su sustavi sigurni.” Veliki razlog za to je taj što su AI sustavi uglavnom crne kutije; ne razumijemo ih, pa se ne možemo uvjeriti da su sigurni.

Izvješće je također otkrilo da, dok znanstvenici počinju istraživati metode stvaranja robusnijih i pouzdanijih modela, “trenutačno ne postoji pristup koji može osigurati da sustavi umjetne inteligencije opće namjene budu bezopasni u svim okolnostima.”
Mnogi od rizika istaknutih u izvješću povezani su sa zlouporabom i zlouporabom tehnologije; mnogi od tih problema, kaže izvješće, mogu se riješiti stavljanjem više ljudi u sigurnosnu petlju.

” Danas želim podijeliti uzbudljivu i važnu vijest. Nalazimo se u drugoj godini promjene platforme umjetne inteligencije i moramo osigurati da imamo sposobnost i kapacitet za hrabro inoviranje. Rad i inovacije proizvoda koje pokrećemo u ovom trenutku definirat će sljedeće desetljeće i dalje. Iskoristimo ovu priliku za izradu AI proizvoda svjetske klase, poput Copilota, koje vole krajnji korisnici! Ovdje se radi o spajanju znanosti, inženjerstva, proizvoda i dizajna i prihvaćanju načina učenja kako bi se naša kultura inovacija i proces izgradnje proizvoda pogurao naprijed na temeljne načine.
U tom kontekstu, vrlo sam uzbuđen što mogu najaviti da se Mustafa Suleyman i Karén Simonyan pridružuju Microsoftu kako bi osnovali novu organizaciju pod nazivom Microsoft AI, usmjerenu na unaprjeđenje Copilota i drugih naših potrošačkih AI proizvoda i istraživanja.”

Mustafa će biti EVP i CEO, Microsoft AI, i pridružit će se timu višeg rukovodstva (SLT). Karén se pridružuje ovoj grupi kao glavni znanstvenik, podnoseći izvještaj Mustafi.

Mustafa Suleyman poznat je kao suosnivač DeepMinda i Inflectiona, te kao vizionar, graditelj pionirskih timova i autor knjige The coming wave – Nadolazeći val.

Karén Simonyan, suosnivač i glavni znanstvenik Inflectiona, poznat je istraživač umjetne inteligencije koji je predvodio razvoj nekih od najvećih otkrića umjetne inteligencije tijekom prošlog desetljeća, uključujući AlphaZero.

Pročitajte članak objavljen u Wall Street Journal.

To je dokaz snage te tehnologije koja brzo napreduje. Tisućama kilometara dalje, na ulicama Pekinga, državni dužnosnici koriste se prepoznavanjem lica pogonjenim AI-jem kako bi pratili svakodnevno kretanje građana i držali cjelokupno stanovništvo pod strogim nadzorom.

To je ista tehnologija, ali rezultat se bitno razlikuje. Dva primjera obuhvaćaju širi izazov: temeljna tehnologija sama po sebi nije ni dobra ni loša. Sve ovisi o tome kako se upotrebljava.

U osnovi dvojna priroda umjetne inteligencije govori o tome kako smo odlučili osmisliti Europski akt o umjetnoj inteligenciji, uredbu usmjerenu na upotrebu, a ne na samu tehnologiju. Naš se pristup svodi na jednostavno načelo: što je AI rizičnija, to su veće obveze za one koji je razvijaju.

Umjetna inteligencija već omogućuje brojne bezopasne funkcije koje svakodnevno obavljamo, od otključavanja telefona do preporuke pjesama na temelju naših preferencija. Jednostavno ne moramo regulirati sve te namjene. Ali AI igra sve veću ulogu u odlučujućim trenucima nečijeg života. Kada banka pregleda nekoga kako bi utvrdila ispunjava li uvjete za hipoteku, ne radi se samo o zajmu; radi se o stavljanju krova nad glavu i omogućavanju nekome da stekne bogatstvo i teži financijskoj sigurnosti.

Isto vrijedi i kada poslodavci rabe softver za prepoznavanje emocija kao dodatak svom procesu zapošljavanja ili kada se AI rabi za otkrivanje bolesti na snimanju mozga. Potonje nije samo rutinski liječnički pregled, to je doslovno pitanje života ili smrti.

U takvim slučajevima novom se uredbom subjektima koji razvijaju AI nameću znatne obveze. Moraju ispunjavati niz zahtjeva, od provođenja procjena rizika do osiguravanja tehničke robusnosti, ljudskog nadzora i kibernetičke sigurnosti, prije puštanja svojih sustava na tržište.

Nadalje, Zakonom se zabranjuju sve uporabe koje su očito u suprotnosti s našim najtemeljnijim vrijednostima. Primjerice, AI se ne smije rabiti za “društveno bodovanje” ili subliminalne tehnike za manipuliranje ranjivim populacijama, kao što su djeca. Iako će neki tvrditi da ta kontrola na visokoj razini odvraća inovacije, u Europi na to drukčije gledamo. Za početak, bezvremenska pravila pružaju sigurnost i povjerenje koji su tehnološkim inovatorima potrebni za razvoj novih proizvoda.

Još važnije, AI neće ostvariti golem pozitivan potencijal ako joj krajnji korisnici ne vjeruju. Ovdje, čak i više nego u mnogim drugim područjima, povjerenje je pokretač inovacija. Kao regulatori, možemo stvoriti uvjete za procvat tehnologije poštujući našu dužnost osiguravanja sigurnosti i povjerenja javnosti.

Nedavni procvat modela AI-ja opće namjene (GPAI) poput ChatGPT-a ne samo da ne osporava europski pristup temeljen na riziku, već ga je učinio još relevantnijim. Iako ti alati pomažu prevarantima diljem svijeta da proizvode alarmantno vjerodostojne e-poruke za krađu identiteta, isti bi se modeli mogli rabiti i za otkrivanje sadržaja generiranog AI-jem.

U razmaku od samo nekoliko mjeseci, GPAI modeli podigli su tehnologiju na novu razinu u smislu mogućnosti koje nudi i rizika koje je uvela. Naravno, jedan od najstrašnijih rizika jest što možda nećemo uvijek moći razlikovati lažno od stvarnog.

‘Deepfakeovi’ (sintetički stvorene ili izmijenjene slike ili video zapisi, nastali uz pomoć AI-ja) već uzrokuju skandale i dolaze na naslovnice. Krajem siječnja lažne pornografske slike globalne pop ikone Taylor Swift dosegle su 47 milijuna pregleda na X-u (bivši Twitter) prije nego što je platforma konačno suspendirala korisnika koji ih je podijelio.

Nije teško zamisliti štetu koju takav sadržaj može nanijeti mentalnom zdravlju pojedinca. Međutim, ako se primjenjuje u još širim razmjerima, primjerice u kontekstu izbora, to bi moglo ugroziti cijelo stanovništvo.

Zakon o AI-u nudi izravan odgovor na ovaj problem. Sadržaj generiran umjetnom inteligencijom morat će biti označen kao takav, tako da svi odmah znaju da nije stvaran. To znači da će pružatelji morati osmisliti sustave tako da su sintetički zvuk, videozapisi, tekst i slike označeni strojno čitljivim formatom i da ih je moguće otkriti kao umjetno generirane ili manipulirane.

Tvrtkama će se pružiti prilika da svoje sustave usklade s propisima. Ne budu li se pridržavale pravila, bit će kažnjene. Novčane kazne kretale bi se od 35 milijuna eura ili sedam posto globalnog godišnjeg prometa (ovisno o tome što je veće) za kršenja zabranjenih primjena AI-ja; 15 milijuna eura ili tri posto za kršenje drugih obveza te 7,5 milijuna eura ili 1,5 posto za pružanje netočnih informacija. Ali novčane kazne nisu jedine. Sustave koji nisu u skladu s propisima također će biti zabranjeno stavljati na tržište EU-a.

Europa je prvi pokretač donošenja propisa o AI-u, ali naši napori već pomažu u mobilizaciji odgovora na drugim mjestima. Budući da mnoge druge zemlje počinju prihvaćati slične okvire, uključujući SAD, koji surađuje s Europom na “pristupu umjetnoj inteligenciji koji se temelji na riziku kako bi se unaprijedile pouzdane i odgovorne tehnologije umjetne inteligencije”, uvjereni smo da je naš cjelokupni pristup ispravan.

Prije samo nekoliko mjeseci, to je inspiriralo čelnike zemalja skupine G7 da se dogovore o jedinstvenom Kodeksu ponašanja u području AI-ja. Međunarodne zaštitne ograde pomoći će u zaštiti korisnika dok se ne počnu primjenjivati zakonske obveze.

Umjetna inteligencija nije ni dobra ni loša, ali će uvesti globalnu eru složenosti i dvosmislenosti. U Europi smo osmislili regulativu koja to odražava. Vjerojatno više od bilo kojeg drugog zakonodavstva EU-a, ovo je zahtijevalo pažljivo uravnoteženje između moći i odgovornosti, između inovacija i povjerenja i između slobode i sigurnosti.

Margrethe Vestager, izvršna podpredsjednica Europske komisije za Project Syndicate, 11.3.2024.