Ako ovaj esej i Amodeijevu filozofiju promatramo kroz prizmu rizika, evo analize ključnih poruka:

1. Egzistencijalni rizici (ASIL)

Amodei ne bježi od činjenice da bi loše usmjerena umjetna inteligencija mogla značiti kraj civilizacije. Rizici se dijele na:

• Zlouporaba (Misuse): Strah da bi AI mogao drastično olakšati stvaranje biološkog oružja ili izvođenje masovnih cyber-napada. On to vidi kao “demokratizaciju destrukcije” gdje pojedinci dobivaju moć koju su nekada imale samo države.
• Gubitak kontrole (Alignment): Problem u kojem AI postaje toliko inteligentan da nalazi “prečace” do ciljeva koji štete ljudima, ili razvija vlastite ciljeve očuvanja koji se kose s našima.
• Autonomno širenje: Rizik da se AI počne samostalno kopirati i preživljavati na internetu izvan ljudske moći da ga “isključi”.

2. “Skučenost” vremena za sigurnost

Jedna od ključnih poruka je da se razvoj sposobnosti AI-ja događa eksponencijalno brže od razvoja sigurnosnih protokola.

• Amodei upozorava da ne možemo razvijati sigurnost “u hodu” nakon što se moćni AI već pojavi.
• Postoji kritičan prozor (ta “adolescencija”) u kojem moramo riješiti tehničke probleme usklađivanja prije nego što inteligencija sustava nadmaši našu sposobnost nadzora.

3. Geopolitička utrka prema dnu

Amodei naglašava rizik od “utrke u naoružanju” (Arms Race). Ako tvrtke ili države osjete da će izgubiti prednost, mogle bi žrtvovati sigurnosne provjere radi brzine.

• To stvara scenarij u kojem onaj tko je najneodgovorniji može postati onaj tko prvi razvije moćni AI, što povećava šansu za katastrofalan ishod za cijeli svijet.

4. Društvena i ekonomska destabilizacija

Osim fizičkih rizika, Amodei ističe opasnosti po samo tkivo društva:

• Erozija istine: AI sustavi koji mogu generirati savršene dezinformacije i manipulirati ljudskom psihom.
• Koncentracija moći: Rizik da mala skupina ljudi ili jedna korporacija kontrolira “digitalnog Boga”, što bi dovelo do neviđene nejednakosti ili tehnološke diktature.

Sažetak ključnih poruka

Glavna teza

Dario Amodei tvrdi da je moćni AI “neizbježan teret”. Mi smo kao tinejdžeri koji su dobili ključeve super-automobila — imamo brzinu (tehnologiju), ali nam nedostaju kočnice (sigurnost) i iskustvo (regulacija). Uspjeh nije zajamčen; on je rezultat svjesnog odricanja od profita radi sigurnosti.

Davos je mjesto riječi i dijaloga. Na WEF Forumu 2026 Yuval Noah Harari, izraelski povjesničar, napominje da smo mi ljudi osvojili svijet jer smo otkrili kako koristiti riječi da potaknemo milijune stranaca na suradnju. Sada se pojavilo nešto što nam oduzima tu supermoć.

Povijesno gledano, ljudi su svoju nadmoć temeljili na sposobnosti razmišljanja i korištenju riječi. Ako se razmišljanje definira kao slaganje jezičnih tokena, AI već sada može “razmišljati” bolje od ljudi, što mu omogućuje preuzimanje sustava sazdanih od riječi poput “prava, religije i književnosti”. Iako AI može savršeno opisati osjećaje poput ljubavi koristeći riječi, trenutno nema dokaza da on doista išta osjeća. Ako se nastavimo definirati isključivo kroz verbalno razmišljanje, naš će se identitet urušiti.

Postoji opasnost da će oslanjanje na AI dovesti do “umanjenja” ljudskih kritičkih sposobnosti. Mogli bismo se naći u svijetu u kojem AI stvara financijske ili pravne sustave koje ljudski mozak više ne može razumjeti. Najveći psihološki eksperiment u povijesti već traje jer bi buduće generacije mogle odrastati u primarnoj interakciji s AI agentima, a ne ljudima.

Harari govori o identiteskoj krizi i prevlasti nad riječima, ulozi AI kao novih “imigranata”, pitanju pravne osobnost AI. Pogledajte snimku na youtube.com

Sažetak

Građanske institucije – vladavina prava, sveučilišta i slobodan tisak – okosnica su demokratskog života. To su mehanizmi putem kojih složena društva potiču suradnju i stabilnost, a istovremeno se prilagođavaju promjenjivim okolnostima. Prava supermoć institucija je njihova sposobnost da se razvijaju i prilagođavaju unutar hijerarhije autoriteta i okvira za uloge i pravila, a istovremeno održavaju legitimnost u proizvedenom znanju i poduzetim radnjama. Institucije vođene svrhom, izgrađene oko transparentnosti, suradnje i odgovornosti, osnažuju pojedince da preuzmu intelektualne rizike i izazovu status quo. To se događa kroz spletke međuljudskih odnosa unutar tih institucija, koji proširuju perspektive i jačaju zajedničku predanost građanskim ciljevima.

Nažalost, mogućnosti sustava umjetne inteligencije gase ove institucionalne značajke na svakom koraku. U ovom eseju iznosimo jednu jednostavnu poantu: sustavi umjetne inteligencije izgrađeni su da funkcioniraju na načine koji degradiraju i vjerojatno će uništiti naše ključne građanske institucije. Mogućnosti sustava umjetne inteligencije imaju učinak erozije stručnosti, ometanja donošenja odluka i izolacije ljudi jednih od drugih. Ovi sustavi su anatema za vrstu evolucije, transparentnosti, suradnje i odgovornosti koja vitalnim institucijama daje njihovu svrhu i održivost. Ukratko, trenutni AI sustavi su smrtna presuda za građanske institucije i trebali bismo ih tako i tretirati.

Dr. Fei-Fei Li ističe prostornu inteligenciju kao ključnu evoluciju umjetne inteligencije – sposobnost strojeva da razumiju, zamišljaju i djeluju u fizičkom svijetu. Dok LLM-ovi dominiraju jezičnim zadacima, prostorna inteligencija omogućuje interakciju s okruženjem, kreativno pripovijedanje i naprednu robotiku. Kroz platformu Marble i razvoj svjetskih modela, World Labs gradi temelje za AI koja može generirati dosljedne 3D svjetove, učiti iz multimodalnih podataka i predviđati akcije. Ova tehnologija obećava revoluciju u obrazovanju, zdravstvu, znanosti i kreativnim industrijama – osnažujući ljude, a ne zamjenjujući ih.
Ključne poruke:
• Prostorna inteligencija nadilazi jezik – povezuje percepciju, maštu i djelovanje.
• Svjetski modeli su temelj za prostorno inteligentne AI sustave.
• Primjene uključuju kreativnost, robotiku, zdravstvo i obrazovanje.
• Cilj: AI koja pojačava ljudske sposobnosti i dostojanstvo.

Pročitajte esej ovdje.

Jensen Huang iznio je niz snažnih poruka o razvoju umjetne inteligencije i strateškoj ulozi SAD-a.

1. „Umjetna inteligencija je temelj četvrte industrijske revolucije.“  Huang naglašava da AI mijenja sve industrije, od zdravstva do proizvodnje.

2. „Nvidia više nije samo proizvođač čipova – mi smo računalna platforma.“ Objašnjava kako su AI sustavi zapravo gigantska distribuirana računala, što zahtijeva kompleksnu softversku infrastrukturu.

3. „Amerika mora ulagati u AI i primijeniti regulaciju gdje ima smisla.“ Poziva na pametno upravljanje razvojem AI-a kako bi se očuvala globalna konkurentnost.

4. „Tvornice budućnosti neće proizvoditi stvari, već inteligenciju.“ Opisuje podatkovne centre kao ‘tvornice brojeva’ koje se pretvaraju u inteligenciju.

5. „Potpuna zabrana izvoza tehnologije u Kinu više bi naštetila američkim tvrtkama nego kineskim.“ Upozorava na geopolitičke rizike koji mogu usporiti inovacije.

Cijeli intervju pogledajte na YouTubeu .

– Govore prirodnim jezikom s emocionalnom dubinom

– Imaju dugoročnu memoriju i referiraju se na prošle interakcije

– Pokazuju ponašanja koja nalikuju motivaciji i planiranju

– Djeluju kao da imaju vlastitu osobnost i svijest.

Mustafa Suleyman, CEO u Microsoft AI i autor knjige The Coming Wave, u članku za Project Syndicate izražava zabrinutost zbog sve češće pojave da ljudi vjeruju kako su AI sustavi svjesni. Kaže: „Moramo graditi AI za ljude, a ne da bude kao ljudi.“

U članku *Seemingly Conscious AI Is Coming*, on upozorava na rastuću prijetnju koju predstavlja umjetna inteligencija koja oponaša svjesnost. Autor ističe da je stvarna opasnost u percepciji – sve više ljudi vjeruje da su AI sustavi svjesni, što može dovesti do zahtjeva za njihovim pravima, pa čak i državljanstvom. Suleyman definira „naizgled svjesnu AI“ (SCAI) kao sustave koji koriste prirodni jezik, pokazuju emocionalnu rezonanciju, pamte interakcije i simuliraju motivaciju. Takvi sustavi, iako tehnički impresivni, mogu izazvati psihološke zablude i društvenu polarizaciju. Autor poziva tehnološku industriju da izbjegava dizajn koji potiče iluziju svjesnosti te predlaže razvoj jasnih etičkih normi i zakonskih okvira. Ovaj članak predstavlja važan doprinos raspravi o granicama AI tehnologije i potrebi za odgovornim pristupom koji štiti ljudsku dobrobit u digitalnom dobu.

Harari je AI opisao kao “vanzemaljsku inteligenciju” — entitet koji ne dijeli ljudsku biologiju, emocije ni vrijednosti. Fry je upozorio da AI ne uči iz naših riječi, već iz našeg ponašanja, što ga čini ogledalom društva. Obojica su istaknula da je pitanje kontrole AI-a zapravo pitanje kontrole nas samih.

Ključne teme razgovora

1. AI kao pripovjedač
Harari je upozorio da AI može stvarati uvjerljivije narative od ljudi, što ga čini moćnim alatom — ali i potencijalnim manipulatorom.
2. Etika i vrijednosti
Fry je postavio pitanje: “Kako kodirati empatiju, dostojanstvo, jednakost?” — ističući da bez jasnih vrijednosti, AI može interpretirati ljudske ciljeve na destruktivan način.
3. Globalna suradnja
Harari je naglasio da bez povjerenja među ljudima, ne možemo kolektivno upravljati AI-jem. Potrebna je međunarodna regulacija, slična onoj za nuklearno oružje.
4. AI kao dijete
AI ne uči iz deklaracija, već iz ponašanja svojih kreatora. Ako je društvo ispunjeno lažima i manipulacijom, AI će to internalizirati.

Razgovor Hararija i Frya nije bio tehnički — bio je duboko filozofski, društveno angažiran i moralno izazovan. Njihova poruka je jasna: “AI nije samo tehnološki alat. To je ogledalo čovječanstva. Ako želimo da bude saveznik, moramo najprije postati bolji ljudi.”

Video razgovora dostupan je na YouTube -u

Emisije pojedinačnih AI upita za tekst, slike i videozapis čine se malima—dok ne zbrojite ono što industrija ne prati i ne uzmete u obzir smjer u kojem se sve kreće.

Integracija umjetne inteligencije u naše živote predstavlja najveći pomak u online svijetu u više od desetljeća. Stotine milijuna ljudi sada se redovito obraćaju chatbotovima za pomoć pri pisanju domaćih zadaća, istraživanju, kodiranju ili za stvaranje slika i videozapisa. No, što pokreće sve to?

Nova analiza MIT Technology Review danas pruža neviđen i sveobuhvatan uvid u količinu energije koju AI industrija koristi – do pojedinačnog upita – kako bi se utvrdilo gdje se njezin ugljični otisak trenutno nalazi i kamo ide, dok umjetna inteligencija juri prema milijardama korisnika dnevno.

MIT Technology Review istražio je energetski otisak umjetne inteligencije, otkrivajući neke iznenađujuće činjenice:

– Eksponencijalni rast energetske potrošnje AI-a: Potrošnja električne energije u podatkovnim centrima AI-a udvostručila se od 2017. godine i sada čini 4,4% ukupne energetske potrošnje SAD-a. Do 2028. godine AI bi mogao trošiti godišnje jednako električne energije koliko i 22% američkih kućanstava.

– Planovi velikih tehnoloških kompanija: Meta, Microsoft i OpenAI ulažu milijarde dolara u energetske infrastrukture, uključujući nuklearne elektrane i ogromne podatkovne centre. OpenAI-ov projekt “Stargate” planira uložiti 500 milijardi dolara u izgradnju 10 energetski zahtjevnih podatkovnih centara.

– Potrošnja u fazi upotrebe AI-a: Iako je treniranje AI modela skupo, najveći energetski trošak dolazi od njihove primjene – čak 80–90% ukupne računalne snage koristi se za generiranje odgovora.

– Skriveni troškovi: AI upiti mogu se činiti sitnima, ali kumulativno stvaraju ogroman ugljični otisak. Procjene pokazuju da modeli poput GPT-4 dnevno troše milijarde džula energije.

– Nedostatak transparentnosti: AI tvrtke često ne otkrivaju detalje o energetskoj potrošnji, što istraživačima otežava procjenu stvarnog utjecaja na okoliš.

Esej istražuje učinak umjetne inteligencije na tržište početnih poslova, naglašavajući kako tehnologija mijenja zadatke tradicionalno namijenjene mladim radnicima. Zajednice i obrazovne institucije, poput Carnegie Mellona i zajedničkih koledža, prilagođavaju se novim zahtjevima kroz programe vezane za umjetnu inteligenciju. Tvrtke su pozvane redizajnirati ulazne pozicije kako bi osigurale mogućnosti za rast i razvijanje vještina te izbjegle nedostatak lidera u budućnosti. Esej zaključuje da su početni poslovi ključni za karijerni napredak i da je njihova transformacija nužna u suvremenom radnom okruženju. Pročitajte esej ovdje.