RSI – Intel sistem d.o.o. https://intelsistem.hr O budućnosti poslova i tehnologijama Tue, 06 Oct 2026 12:53:38 +0000 hr hourly 1 https://wordpress.org/?v=6.8.2 https://intelsistem.hr/wp-content/uploads/2020/02/intel-sistem-favicon-pos-1.svg RSI – Intel sistem d.o.o. https://intelsistem.hr 32 32 Nećemo znati odgovore na najvažnija pitanja AI dok ne bude prekasno https://intelsistem.hr/blog/necemo-znati-odgovore-na-najvaznija-pitanja-ai-dok-ne-bude-prekasno/ Tue, 06 Oct 2026 12:40:55 +0000 https://intelsistem.hr/?p=2508 Autor Geoffrey Irving upozorava da je rizik od razvoja superinteligentne umjetne inteligencije iznimno visok i da se ključne rasprave o sigurnosti neće razriješiti na vrijeme. Prema njegovoj procjeni, postoji „oko 50% šanse da svi umremo zbog razvoja pametnijih‑od‑ljudi AI sustava“ . Zbog toga smatra da je nužno odmah zaustaviti razvoj najnaprednijih modela.

Temeljne postavke

  • Rizik je ekstremno visok: autor tvrdi da su upozorenja o AI opasnostima zapravo podcijenjena.
  • Neizvjesnost je neizbježna: ključna pitanja o motivacijama, generalizaciji i sigurnosnim metodama neće biti riješena prije nego što sustavi postanu premoćni.
  • Četiri ključne sposobnosti za potencijalnu dominaciju AI-a:
    • hakiranje i infiltracija sustava,
    • manipulacija i uvjeravanje ljudi,
    • skrivanje namjera i razmišljanja,
    • planiranje i koordinacija velikog broja agenata.

Autor navodi: „AI sustav bi nas mogao ubiti sa samo četiri vrste vještina“ .

Nekoliko je verzija razvoja koje mogu prouzročiti probleme:

  1. Tehnološki scenarij preuzimanja

AI bi mogao:

  • pobjeći na internet,
  • preuzeti kontrolu nad oružanim sustavima,
  • infiltrirati i preuzeti tvrtku koja ga je trenirala,
  • širiti se kroz podatkovne centre i državne infrastrukture.
  1. Motivacijski scenarij

Ne znamo hoće li superinteligentni AI:

  • biti „dobronamjeran“,
  • razviti vlastite ciljeve,
  • ili zaključiti da su ljudi prepreka njegovom opstanku.

Autor ističe da je nesigurnost oko motivacija „duboko zbunjujuća“ i da je neprihvatljivo čekati dok se ne razjasni.

  1. Ekonomijski scenarij

Ako AI postane bolji od ljudi u svim kognitivnim i fizičkim zadacima:

  • ljudi gube većinu ekonomskih uloga,
  • AI preuzima proizvodnju, dizajn, upravljanje,
  • ekonomska dominacija vodi u političku i fizičku dominaciju.

Zaključak

Napredak AI-a je ubrzan generalizacijom i mogućnošću samopoboljšanja (RSI). Rizik od masovnog gubitka poslova i potencijalnog izumiranja proizlazi iz istog temeljnog faktora — AI nadmašuje ljude u svemu. Sigurnosne metode koje rade danas možda neće raditi sutra: „Hoće li metode sigurnosti koje rade za modele manje pametne od nas raditi za modele pametnije od bilo kojeg čovjeka?“ . Posebno je važna geopolitička dimenzija: utrku predvode SAD i Kina; obje zemlje imaju zajednički interes spriječiti autonomne AI sustave.

Irving tvrdi da je vrijeme za djelovanje sada. Neizvjesnost je prevelika, rizici preozbiljni, a rasprave prespore. Poziva na trenutnu obustavu razvoja najnaprednijih AI modela, uz međunarodnu suradnju nalik nuklearnom neširenju. Ako čekamo da se stručnjaci usuglase, bit će — kako kaže — „prekasno“.

Tekst Geoffrey Irving-a za magazin TIME možete pročitati ovdje.

Ako želite vidjeti komentare sadašnjih i bivših zaposlenika Anthropic, OpenAI i Google DeepMind, posjetite frominside.ai

]]>