Temeljne postavke

• Rizik je ekstremno visok: autor tvrdi da su upozorenja o AI opasnostima zapravo podcijenjena.
• Neizvjesnost je neizbježna: ključna pitanja o motivacijama, generalizaciji i sigurnosnim metodama neće biti riješena prije nego što sustavi postanu premoćni.
• Četiri ključne sposobnosti za potencijalnu dominaciju AI-a:
  • hakiranje i infiltracija sustava,
  • manipulacija i uvjeravanje ljudi,
  • skrivanje namjera i razmišljanja,
  • planiranje i koordinacija velikog broja agenata.

Autor navodi: „AI sustav bi nas mogao ubiti sa samo četiri vrste vještina“ .

Nekoliko je verzija razvoja koje mogu prouzročiti probleme:

1. Tehnološki scenarij preuzimanja

AI bi mogao:

• pobjeći na internet,
• preuzeti kontrolu nad oružanim sustavima,
• infiltrirati i preuzeti tvrtku koja ga je trenirala,
• širiti se kroz podatkovne centre i državne infrastrukture.

2. Motivacijski scenarij

Ne znamo hoće li superinteligentni AI:

• biti „dobronamjeran“,
• razviti vlastite ciljeve,
• ili zaključiti da su ljudi prepreka njegovom opstanku.

Autor ističe da je nesigurnost oko motivacija „duboko zbunjujuća“ i da je neprihvatljivo čekati dok se ne razjasni.

3. Ekonomijski scenarij

Ako AI postane bolji od ljudi u svim kognitivnim i fizičkim zadacima:

• ljudi gube većinu ekonomskih uloga,
• AI preuzima proizvodnju, dizajn, upravljanje,
• ekonomska dominacija vodi u političku i fizičku dominaciju.

Zaključak

Napredak AI-a je ubrzan generalizacijom i mogućnošću samopoboljšanja (RSI). Rizik od masovnog gubitka poslova i potencijalnog izumiranja proizlazi iz istog temeljnog faktora — AI nadmašuje ljude u svemu. Sigurnosne metode koje rade danas možda neće raditi sutra: „Hoće li metode sigurnosti koje rade za modele manje pametne od nas raditi za modele pametnije od bilo kojeg čovjeka?“ . Posebno je važna geopolitička dimenzija: utrku predvode SAD i Kina; obje zemlje imaju zajednički interes spriječiti autonomne AI sustave.

Irving tvrdi da je vrijeme za djelovanje sada. Neizvjesnost je prevelika, rizici preozbiljni, a rasprave prespore. Poziva na trenutnu obustavu razvoja najnaprednijih AI modela, uz međunarodnu suradnju nalik nuklearnom neširenju. Ako čekamo da se stručnjaci usuglase, bit će — kako kaže — „prekasno“.

Tekst Geoffrey Irving-a za magazin TIME možete pročitati ovdje.

Ako želite vidjeti komentare sadašnjih i bivših zaposlenika Anthropic, OpenAI i Google DeepMind, posjetite frominside.ai

Autori predlažu da se, umjesto nagađanja o balonu, zapitamo: kakva bi točno morala izgledati svjetska ekonomija da bi ove cijene danas imale smisla?

Razmotrimo ključnu skupinu tvrtki u središtu priče o umjetnoj inteligenciji: Nvidia, Alphabet, Apple, Microsoft, Meta, Broadcom, Tesla, OpenAI, Anthropic, SpaceX-xAI i Amazon Web Services. Zajedno, one utjelovljuju izvanrednu tržišnu okladu. Pod konzervativnom referentnom vrijednosti – da do 2036. ove tvrtke trguju po omjeru cijene i zarade od 20, ostvaruju neto profitne marže od 20% i ostvaruju 65% svojih dodatnih prihoda iz inozemstva – u desetljeću bi generirale otprilike 2,4 bilijuna dolara dodatnih godišnjih inozemnih prihoda. Takav prihod je otprilike jednak cjelokupnom američkom izvozu robe danas i više od dvostrukog deficita tekućeg računa SAD-a.

Rente koje impliciraju ove procjene su ogromne. I one pripadaju tvrtkama koje, zajedno, danas zapošljavaju manje od milijun ljudi. Prema ovoj aritmetici, one imaju 23 milijuna dolara tržišne vrijednosti po radniku. Ovo nije priča o stvaranju radnih mjesta na širokoj osnovi. To je priča o zahtjevima male skupine ljudi za budući dohodak ostatka čovječanstva.

Glavna teza Hausmanna i Velasca jest da trenutne valuacije AI divova podrazumijevaju radikalnu transformaciju globalne ekonomije. Dok se američka moć u 20. stoljeću temeljila na industrijskoj proizvodnji, vojnoj sili i snazi dolara, u 21. stoljeću ona se sve više oslanja na vlasništvo nad nezaobilaznom AI infrastrukturom.

Autori ističu da, ako su trenutne tržišne procjene točne, to znači da će AI postati “operativni sustav” cjelokupnog svjetskog gospodarstva. Međutim, to otvara i ozbiljna pitanja o tome kako će ostatak svijeta – osobito zemlje u razvoju – moći financirati pristup toj tehnologiji i hoće li ona postati alat za ekstrakciju rente od strane nekolicine moćnih korporacija.

Ključne napomene:

• AI kao nova “infrastruktura” moći: Baš kao što su nafta ili financijski sustav dominirali prošlim stoljećem, kontrola nad AI modelima i procesorskom snagom postaje ključni izvor nacionalne i korporativne moći.
• Logika valuacija: Da bi trenutne cijene dionica (npr. Nvidije, Microsofta, OpenAI-ja) bile opravdane, AI ne smije biti samo koristan alat, već nezamjenjiv resurs koji omogućuje prikupljanje ogromnih profita (renti) na globalnoj razini.
• Rizik od “digitalnog kolonijalizma”: Veliki izazov za svijet bit će način plaćanja pristupa toj infrastrukturi. Postoji opasnost da će većina zemalja postati trajno ovisna o uslugama nekoliko tvrtki, što bi moglo produbiti globalne nejednakosti.
• Pitanje produktivnosti vs. rente: Autori propituju hoće li AI doista toliko povećati opću produktivnost da to opravda troškove, ili će se profitabilnost temeljiti isključivo na monopolističkom položaju onih koji posjeduju tehnologiju.
• Politička ekonomija budućnosti: Geopolitička stabilnost mogla bi ovisiti o tome hoće li pristup AI tehnologiji biti tretiran kao javno dobro ili kao privatno vlasništvo s visokom cijenom ulaska.

Hausmann i Velasco zaključuju da, čak i ako nije riječ o klasičnom balonu koji će puknuti, svijet koji opravdava ove valuacije je svijet u kojem je ekonomska moć koncentrirana više nego ikada prije, što zahtijeva nove međunarodne dogovore o pristupu tehnologiji.

Ako ovaj esej i Amodeijevu filozofiju promatramo kroz prizmu rizika, evo analize ključnih poruka:

1. Egzistencijalni rizici (ASIL)

Amodei ne bježi od činjenice da bi loše usmjerena umjetna inteligencija mogla značiti kraj civilizacije. Rizici se dijele na:

• Zlouporaba (Misuse): Strah da bi AI mogao drastično olakšati stvaranje biološkog oružja ili izvođenje masovnih cyber-napada. On to vidi kao “demokratizaciju destrukcije” gdje pojedinci dobivaju moć koju su nekada imale samo države.
• Gubitak kontrole (Alignment): Problem u kojem AI postaje toliko inteligentan da nalazi “prečace” do ciljeva koji štete ljudima, ili razvija vlastite ciljeve očuvanja koji se kose s našima.
• Autonomno širenje: Rizik da se AI počne samostalno kopirati i preživljavati na internetu izvan ljudske moći da ga “isključi”.

2. “Skučenost” vremena za sigurnost

Jedna od ključnih poruka je da se razvoj sposobnosti AI-ja događa eksponencijalno brže od razvoja sigurnosnih protokola.

• Amodei upozorava da ne možemo razvijati sigurnost “u hodu” nakon što se moćni AI već pojavi.
• Postoji kritičan prozor (ta “adolescencija”) u kojem moramo riješiti tehničke probleme usklađivanja prije nego što inteligencija sustava nadmaši našu sposobnost nadzora.

3. Geopolitička utrka prema dnu

Amodei naglašava rizik od “utrke u naoružanju” (Arms Race). Ako tvrtke ili države osjete da će izgubiti prednost, mogle bi žrtvovati sigurnosne provjere radi brzine.

• To stvara scenarij u kojem onaj tko je najneodgovorniji može postati onaj tko prvi razvije moćni AI, što povećava šansu za katastrofalan ishod za cijeli svijet.

4. Društvena i ekonomska destabilizacija

Osim fizičkih rizika, Amodei ističe opasnosti po samo tkivo društva:

• Erozija istine: AI sustavi koji mogu generirati savršene dezinformacije i manipulirati ljudskom psihom.
• Koncentracija moći: Rizik da mala skupina ljudi ili jedna korporacija kontrolira “digitalnog Boga”, što bi dovelo do neviđene nejednakosti ili tehnološke diktature.

Sažetak ključnih poruka

Glavna teza

Dario Amodei tvrdi da je moćni AI “neizbježan teret”. Mi smo kao tinejdžeri koji su dobili ključeve super-automobila — imamo brzinu (tehnologiju), ali nam nedostaju kočnice (sigurnost) i iskustvo (regulacija). Uspjeh nije zajamčen; on je rezultat svjesnog odricanja od profita radi sigurnosti.

Davos je mjesto riječi i dijaloga. Na WEF Forumu 2026 Yuval Noah Harari, izraelski povjesničar, napominje da smo mi ljudi osvojili svijet jer smo otkrili kako koristiti riječi da potaknemo milijune stranaca na suradnju. Sada se pojavilo nešto što nam oduzima tu supermoć.

Povijesno gledano, ljudi su svoju nadmoć temeljili na sposobnosti razmišljanja i korištenju riječi. Ako se razmišljanje definira kao slaganje jezičnih tokena, AI već sada može “razmišljati” bolje od ljudi, što mu omogućuje preuzimanje sustava sazdanih od riječi poput “prava, religije i književnosti”. Iako AI može savršeno opisati osjećaje poput ljubavi koristeći riječi, trenutno nema dokaza da on doista išta osjeća. Ako se nastavimo definirati isključivo kroz verbalno razmišljanje, naš će se identitet urušiti.

Postoji opasnost da će oslanjanje na AI dovesti do “umanjenja” ljudskih kritičkih sposobnosti. Mogli bismo se naći u svijetu u kojem AI stvara financijske ili pravne sustave koje ljudski mozak više ne može razumjeti. Najveći psihološki eksperiment u povijesti već traje jer bi buduće generacije mogle odrastati u primarnoj interakciji s AI agentima, a ne ljudima.

Harari govori o identiteskoj krizi i prevlasti nad riječima, ulozi AI kao novih “imigranata”, pitanju pravne osobnost AI. Pogledajte snimku na youtube.com

Sažetak

Građanske institucije – vladavina prava, sveučilišta i slobodan tisak – okosnica su demokratskog života. To su mehanizmi putem kojih složena društva potiču suradnju i stabilnost, a istovremeno se prilagođavaju promjenjivim okolnostima. Prava supermoć institucija je njihova sposobnost da se razvijaju i prilagođavaju unutar hijerarhije autoriteta i okvira za uloge i pravila, a istovremeno održavaju legitimnost u proizvedenom znanju i poduzetim radnjama. Institucije vođene svrhom, izgrađene oko transparentnosti, suradnje i odgovornosti, osnažuju pojedince da preuzmu intelektualne rizike i izazovu status quo. To se događa kroz spletke međuljudskih odnosa unutar tih institucija, koji proširuju perspektive i jačaju zajedničku predanost građanskim ciljevima.

Nažalost, mogućnosti sustava umjetne inteligencije gase ove institucionalne značajke na svakom koraku. U ovom eseju iznosimo jednu jednostavnu poantu: sustavi umjetne inteligencije izgrađeni su da funkcioniraju na načine koji degradiraju i vjerojatno će uništiti naše ključne građanske institucije. Mogućnosti sustava umjetne inteligencije imaju učinak erozije stručnosti, ometanja donošenja odluka i izolacije ljudi jednih od drugih. Ovi sustavi su anatema za vrstu evolucije, transparentnosti, suradnje i odgovornosti koja vitalnim institucijama daje njihovu svrhu i održivost. Ukratko, trenutni AI sustavi su smrtna presuda za građanske institucije i trebali bismo ih tako i tretirati.

Dr. Fei-Fei Li ističe prostornu inteligenciju kao ključnu evoluciju umjetne inteligencije – sposobnost strojeva da razumiju, zamišljaju i djeluju u fizičkom svijetu. Dok LLM-ovi dominiraju jezičnim zadacima, prostorna inteligencija omogućuje interakciju s okruženjem, kreativno pripovijedanje i naprednu robotiku. Kroz platformu Marble i razvoj svjetskih modela, World Labs gradi temelje za AI koja može generirati dosljedne 3D svjetove, učiti iz multimodalnih podataka i predviđati akcije. Ova tehnologija obećava revoluciju u obrazovanju, zdravstvu, znanosti i kreativnim industrijama – osnažujući ljude, a ne zamjenjujući ih.
Ključne poruke:
• Prostorna inteligencija nadilazi jezik – povezuje percepciju, maštu i djelovanje.
• Svjetski modeli su temelj za prostorno inteligentne AI sustave.
• Primjene uključuju kreativnost, robotiku, zdravstvo i obrazovanje.
• Cilj: AI koja pojačava ljudske sposobnosti i dostojanstvo.

Pročitajte esej ovdje.

Jensen Huang iznio je niz snažnih poruka o razvoju umjetne inteligencije i strateškoj ulozi SAD-a.

1. „Umjetna inteligencija je temelj četvrte industrijske revolucije.“  Huang naglašava da AI mijenja sve industrije, od zdravstva do proizvodnje.

2. „Nvidia više nije samo proizvođač čipova – mi smo računalna platforma.“ Objašnjava kako su AI sustavi zapravo gigantska distribuirana računala, što zahtijeva kompleksnu softversku infrastrukturu.

3. „Amerika mora ulagati u AI i primijeniti regulaciju gdje ima smisla.“ Poziva na pametno upravljanje razvojem AI-a kako bi se očuvala globalna konkurentnost.

4. „Tvornice budućnosti neće proizvoditi stvari, već inteligenciju.“ Opisuje podatkovne centre kao ‘tvornice brojeva’ koje se pretvaraju u inteligenciju.

5. „Potpuna zabrana izvoza tehnologije u Kinu više bi naštetila američkim tvrtkama nego kineskim.“ Upozorava na geopolitičke rizike koji mogu usporiti inovacije.

Cijeli intervju pogledajte na YouTubeu .

– Govore prirodnim jezikom s emocionalnom dubinom

– Imaju dugoročnu memoriju i referiraju se na prošle interakcije

– Pokazuju ponašanja koja nalikuju motivaciji i planiranju

– Djeluju kao da imaju vlastitu osobnost i svijest.

Mustafa Suleyman, CEO u Microsoft AI i autor knjige The Coming Wave, u članku za Project Syndicate izražava zabrinutost zbog sve češće pojave da ljudi vjeruju kako su AI sustavi svjesni. Kaže: „Moramo graditi AI za ljude, a ne da bude kao ljudi.“

U članku *Seemingly Conscious AI Is Coming*, on upozorava na rastuću prijetnju koju predstavlja umjetna inteligencija koja oponaša svjesnost. Autor ističe da je stvarna opasnost u percepciji – sve više ljudi vjeruje da su AI sustavi svjesni, što može dovesti do zahtjeva za njihovim pravima, pa čak i državljanstvom. Suleyman definira „naizgled svjesnu AI“ (SCAI) kao sustave koji koriste prirodni jezik, pokazuju emocionalnu rezonanciju, pamte interakcije i simuliraju motivaciju. Takvi sustavi, iako tehnički impresivni, mogu izazvati psihološke zablude i društvenu polarizaciju. Autor poziva tehnološku industriju da izbjegava dizajn koji potiče iluziju svjesnosti te predlaže razvoj jasnih etičkih normi i zakonskih okvira. Ovaj članak predstavlja važan doprinos raspravi o granicama AI tehnologije i potrebi za odgovornim pristupom koji štiti ljudsku dobrobit u digitalnom dobu.

Harari je AI opisao kao “vanzemaljsku inteligenciju” — entitet koji ne dijeli ljudsku biologiju, emocije ni vrijednosti. Fry je upozorio da AI ne uči iz naših riječi, već iz našeg ponašanja, što ga čini ogledalom društva. Obojica su istaknula da je pitanje kontrole AI-a zapravo pitanje kontrole nas samih.

Ključne teme razgovora

1. AI kao pripovjedač
Harari je upozorio da AI može stvarati uvjerljivije narative od ljudi, što ga čini moćnim alatom — ali i potencijalnim manipulatorom.
2. Etika i vrijednosti
Fry je postavio pitanje: “Kako kodirati empatiju, dostojanstvo, jednakost?” — ističući da bez jasnih vrijednosti, AI može interpretirati ljudske ciljeve na destruktivan način.
3. Globalna suradnja
Harari je naglasio da bez povjerenja među ljudima, ne možemo kolektivno upravljati AI-jem. Potrebna je međunarodna regulacija, slična onoj za nuklearno oružje.
4. AI kao dijete
AI ne uči iz deklaracija, već iz ponašanja svojih kreatora. Ako je društvo ispunjeno lažima i manipulacijom, AI će to internalizirati.

Razgovor Hararija i Frya nije bio tehnički — bio je duboko filozofski, društveno angažiran i moralno izazovan. Njihova poruka je jasna: “AI nije samo tehnološki alat. To je ogledalo čovječanstva. Ako želimo da bude saveznik, moramo najprije postati bolji ljudi.”

Video razgovora dostupan je na YouTube -u