Dr. Noah Giansiracusa, profesor matematike na Sveučilištu Bentley, rekao je da su međunarodni sporazumi za istraživanje rizika umjetne inteligencije “važni” i “korisni”. Ali obveze tvrtke, manje.
“Još uvijek ne mogu učiniti društvene medije sigurnima, pa zašto bismo vjerovali da će oni učiniti AI sigurnom”, rekao je. “OpenAI čak ni ne slijedi vlastitu predanost otvorenosti. To nisu organizacije od povjerenja, žao mi je što moram reći.”

Jedan od rezultata sigurnosnog summita u Seulu je ovo (privremeno) “Međunarodno znanstveno izvješće o sigurnosti napredne umjetne inteligencije” od 130 stranica.
Izvješće – koje se fokusira na sustave opće namjene – ističe činjenicu da znanstvenici zapravo ne znaju što će se dogoditi s umjetnom inteligencijom. “Širok raspon mogućih ishoda čini se mogućim čak iu bliskoj budućnosti, uključujući vrlo pozitivne i vrlo negativne ishode, kao i sve između.”
Najvažniji kolumna: Odjeljak 5 izvješća rastavlja napore u upravljanju rizikom, ali kaže da “postojeće metode nisu dovoljne da dokažu da su sustavi sigurni.” Veliki razlog za to je taj što su AI sustavi uglavnom crne kutije; ne razumijemo ih, pa se ne možemo uvjeriti da su sigurni.

Izvješće je također otkrilo da, dok znanstvenici počinju istraživati metode stvaranja robusnijih i pouzdanijih modela, “trenutačno ne postoji pristup koji može osigurati da sustavi umjetne inteligencije opće namjene budu bezopasni u svim okolnostima.”
Mnogi od rizika istaknutih u izvješću povezani su sa zlouporabom i zlouporabom tehnologije; mnogi od tih problema, kaže izvješće, mogu se riješiti stavljanjem više ljudi u sigurnosnu petlju.