Eric Schmidt – Intel sistem d.o.o. https://intelsistem.hr O budućnosti poslova i tehnologijama Wed, 19 Mar 2025 16:39:21 +0000 hr hourly 1 https://wordpress.org/?v=6.8.2 https://intelsistem.hr/wp-content/uploads/2020/02/intel-sistem-favicon-pos-1.svg Eric Schmidt – Intel sistem d.o.o. https://intelsistem.hr 32 32 Superintelligence Strategy – Eric Schmidt, Dan Hendrycks i Alexander Wang https://intelsistem.hr/blog/superintelligence-strategy-eric-schmidt-dan-hendrycks-i-alexander-wang/ Tue, 11 Mar 2025 12:30:28 +0000 https://intelsistem.hr/?p=2400 Publikacija “Superintelligence Strategy: Expert Version” autora Dana Hendrycksa, Erica Schmidta i Alexandera Wanga bavi se strategijama za upravljanje rizicima i prilikama koje donosi razvoj superinteligentnih umjetnih inteligencija (AI). Autori ističu da brzi napredak u AI tehnologijama može imati duboke implikacije na nacionalnu sigurnost, globalnu stabilnost i ekonomsku konkurentnost. Kako bi se suočili s ovim izazovima, autori predlažu trodijelnu strategiju koja uključuje odvraćanje, neproliferaciju i konkurentnost.

 

  1. Odvraćanje (Deterrence): Autori uvode koncept “Mutual Assured AI Malfunction” (MAIM), koji se može usporediti s nuklearnim odvraćanjem (MAD). MAIM podrazumijeva da će države koje pokušaju ostvariti jednostranu dominaciju putem superinteligentnih AI sustava biti suočene s prijetnjom sabotaže od strane drugih država. Ova strategija oslanja se na to da je relativno lako sabotirati AI projekte, bilo kibernetskim napadima ili fizičkim uništavanjem infrastrukture.
  2. Neproliferacija (Nonproliferation): Kako bi se spriječilo širenje opasnih AI tehnologija u ruke terorista ili drugih neodgovornih aktera, autori predlažu stroge kontrole nad distribucijom AI čipova, zaštitu informacija (kao što su težinski modeli) i implementaciju sigurnosnih mjera kako bi se spriječila zloupotreba AI sustava.
  3. Konkurentnost (Competitiveness): Države moraju ulagati u razvoj AI tehnologija kako bi ojačale svoju ekonomsku i vojnu moć. To uključuje razvoj domaće proizvodnje AI čipova, integraciju AI u vojne sustave, te stvaranje pravnih okvira koji reguliraju ponašanje AI agenata.

 

Ključni zaključci:

  1. Superinteligencija kao nacionalna sigurnosna prijetnja: Superinteligentni AI sustavi mogu biti opasni ako izmaknu kontroli ili ako ih zloupotrijebe države ili neodgovorni akteri. Stoga je potrebna globalna strategija za upravljanje ovim rizicima.
  2. MAIM kao odvraćajući mehanizam: Koncept MAIM može poslužiti kao stabilizirajući faktor u međudržavnim odnosima, slično kao što je nuklearno odvraćanje spriječilo nuklearni rat. Države će biti obeshrabrene od pokušaja stvaranja superinteligentnih sustava zbog straha od sabotaže.
  3. Kontrola distribucije AI tehnologija: Kako bi se spriječila zloupotreba AI tehnologija, potrebno je uspostaviti stroge kontrole nad distribucijom AI čipova i zaštititi osjetljive informacije poput težinskih modela.
  4. Ekonomska i vojna konkurentnost: Države koje žele ostati konkurentne moraju ulagati u razvoj AI tehnologija, posebno u domaću proizvodnju AI čipova i integraciju AI u vojne sustave.
  5. Pravni okviri za AI: Potrebno je uspostaviti pravne okvire koji će regulirati ponašanje AI agenata, osiguravajući da oni djeluju u skladu s ljudskim vrijednostima i ne uzrokuju štetu.
  6. Rizici od gubitka kontrole: Jedan od najvećih rizika je gubitak kontrole nad superinteligentnim AI sustavima, što može dovesti do katastrofalnih posljedica. Stoga je ključno osigurati da AI sustavi ostanu pod ljudskom kontrolom.
  7. Suradnja među državama: Kao što je suradnja u nuklearnom dobu bila ključna za sprječavanje katastrofe, tako je i u eri AI potrebna međunarodna suradnja kako bi se spriječile najveće prijetnje.

 

Publikacija naglašava da su rizici povezani s superinteligencijom preveliki da bi se zanemarili, te da je potrebna sveobuhvatna strategija koja će omogućiti sigurno i odgovorno korištenje AI tehnologija.

]]>