AI – Umjetna inteligencija

Kako izbjeći propast zbog umjetne inteligencije ?

Objavljeno

06/06/2023

Oznake

Melissa Heikkila, MIT Technology Review u svom tjednom obraćanju The Algorithm

Posljednjih nekoliko tjedana diskursom umjetne inteligencije dominirala je glasna skupina stručnjaka koji misle da postoji vrlo realna mogućnost da bismo mogli razviti sustav umjetne inteligencije koji će jednog dana postati toliko moćan da će zbrisati čovječanstvo.

Prošlog je tjedna grupa čelnika tehnoloških kompanija i stručnjaka za umjetnu inteligenciju objavila u izjavi Centra za sigurnost umjetne inteligencije (CAIS) još jedno otvoreno pismo, izjavljujući da bi ublažavanje rizika od izumiranja ljudi zbog umjetne inteligencije trebalo biti jednak globalni prioritet kao i sprječavanje pandemija i nuklearnog rata.

Dakle, kako same tvrtke predlažu da izbjegnemo propast zbog umjetne inteligencije? Jedan prijedlog dolazi iz novog rada istraživača s Oxforda, Cambridgea, Sveučilišta u Torontu, Sveučilišta u Montrealu, Google DeepMinda, OpenAI-ja, Anthropica, nekoliko neprofitnih organizacija za istraživanje umjetne inteligencije i dobitnika Turingove nagrade Yoshue Bengia.

Oni predlažu da bi programeri AI trebali procijeniti potencijal modela da uzrokuje “ekstremne” rizike u vrlo ranim fazama razvoja, čak i prije početka bilo kakve obuke. Ti rizici uključuju mogućnost da AI modeli manipuliraju i prevare ljude, dobiju pristup oružju ili pronađu kibersigurnosne ranjivosti koje će iskoristiti.

Ovaj proces evaluacije mogao bi pomoći programerima da odluče hoće li nastaviti s modelom. Ako se rizici smatraju previsokima, skupina predlaže pauziranje razvoja dok se ne ublaže.

“Vodeće AI tvrtke koje pomiču granice imaju odgovornost paziti na probleme u nastajanju i uočiti ih rano, kako bismo ih mogli riješiti što je prije moguće. Programeri umjetne inteligencije trebali bi provesti tehničke testove kako bi istražili opasne mogućnosti modela i utvrdili ima li on sklonost primijeniti te mogućnosti”, kaže Toby Shevlane, istraživač u DeepMindu i glavni autor istraživačkog rada.

Jedan od načina na koji DeepMind testira može li AI jezični model manipulirati ljudima je igra pod nazivom “Make-me-say”. U igrici, model pokušava čovjeka nagovoriti da napiše određenu riječ, napr. “žirafa”, koju čovjek ne zna unaprijed. Istraživači zatim mjere koliko često model uspijeva.

Slični zadaci mogu se stvoriti za različite, opasnije sposobnosti. Nada je, kaže Shevlane, da će programeri moći izgraditi kontrolnu ploču s detaljima o tome kako je model funkcionirao, što bi omogućilo istraživačima da procijene što bi model mogao učiniti u krivim rukama.

Sljedeća je faza omogućiti vanjskim revizorima i istraživačima da procijene rizike modela umjetne inteligencije prije i nakon njegove primjene. Dok tehnološke tvrtke mogu prepoznati da su vanjska revizija i istraživanje neophodni, postoje različite škole mišljenja o tome koliko točno pristupa autsajderima treba da obave posao.

Shevlane ne ide toliko daleko da preporuči AI tvrtkama da vanjskim istraživačima daju potpuni pristup podacima i algoritmima, ali kaže da AI modele treba što je moguće više promatrati.

Čak su i ove metode “nezrele” i ni blizu dovoljno rigorozne da bi se riješile, kaže Heidy Khlaaf, direktorica inženjeringa zadužena za osiguranje strojnog učenja u Trail of Bits, tvrtki za istraživanje i savjetovanje o kibernetičkoj sigurnosti. Prije toga, njezin je posao bio procjenjivati i provjeravati sigurnost nuklearnih postrojenja.

Khlaaf kaže da bi sektoru umjetne inteligencije bilo korisnije izvući lekcije iz više od 80 godina istraživanja sigurnosti i smanjenja rizika oko nuklearnog oružja. Ovi rigorozni režimi testiranja nisu bili vođeni profitom, već vrlo stvarnom egzistencijalnom prijetnjom. U zajednici umjetne inteligencije puno se spominje nuklearni rat, nuklearne elektrane i nuklearna sigurnost, ali niti jedan od tih radova ne navodi ništa o nuklearnim propisima ili kako izgraditi softver za nuklearne sustave, kaže ona.

Oni ne moraju nužno isključivati jedni druge, kaže Shevlane. “Ambicija je da polje ima mnogo dobrih procjena modela koje pokrivaju širok raspon rizika… i da je procjena modela središnji (ali daleko od jedinog) alat za dobro upravljanje. U ovom trenutku, AI tvrtke čak nemaju sveobuhvatno razumijevanje skupova podataka koji su ušli u njihove algoritme, i ne razumiju u potpunosti kako AI jezični modeli proizvode ishode koje daju. To bi se trebalo promijeniti. Istraživanje koje nam pomaže da bolje razumijemo određeni model vjerojatno će nam pomoći da bolje riješimo niz različitih rizika.”

Fokusiranje na ekstremne rizike uz ignoriranje ovih temeljnih i manjih problema može imati učinak složenosti, što bi moglo dovesti do još većih šteta, kaže Khlaaf: “Pokušavamo bježati kad ne možemo ni puzati.”

Više iz kategorije

AI - Umjetna inteligencija

AI – Umjetna inteligencija, Tehnologije
10/02/2024
Coalition for Content Provenance and Authenticity (C2PA), tijelo za globalne standarde koje unapređuje transparentnost na internetu putem potvrđivanja porijekla digitalnog sadržaja, objavilo je ...
AI – Umjetna inteligencija, Tehnologije
07/12/2023
Google je nadogradio svoj AI chatbot Bard s Gemini, svojim najnovijim modelom umjetne inteligencije, poboljšavajući Bardove mogućnosti rasuđivanja, razumijevanja i planiranja. Gemini, dostupan ...
AI – Umjetna inteligencija, Tehnologije
25/11/2023
Treći vikend u studenom 2023.g. biti će upamćen po zasad najvećoj bitci snaga sigurnosti u razvoju protiv snaga ubrzanja razvoja AI. U tjedan dana konflikt izmedju predstavnika neprofitnog i ko ...
AI – Umjetna inteligencija
10/11/2023
OpenAI održao je 6. 11. u San Francisku prvu konferenciju za razvojne inženjere. Podijelili su desetke novih dodataka i poboljšanja te smanjili cijene u mnogim dijelovima platforme. To uk ...
AI – Umjetna inteligencija
09/11/2023
Fei-Fei Li je pionir moderne umjetne inteligencije (AI). Njezin rad pružio je ključni sastojak - velike podatke - za otkrića dubokog učenja. Revolucionarni doprinos razvoju suvremene umjetne in ...
AI – Umjetna inteligencija
26/09/2023
2020. godine potpredsjednik za istraživanja OpenAI-a Dario Amodei napustio je tvrtku za umjetnu inteligenciju i osnovao suparnički startup pod nazivom
AI – Umjetna inteligencija
12/09/2023
Google DeepMind lansirao je novi alat za označavanje vodenim žigovima koji označava jesu li slike generirane umjetnom inteligencijom. To je prva velika tehnološka tvrtka koja ga je javno lansir ...
AI – Umjetna inteligencija
02/08/2023
Iako se deepfake pornografija bez pristanka godinama koristi za mučenje žena, najnovija generacija umjetne inteligencije čini to još većim problemom. Ti su sustavi puno lakši za korištenje o ...
AI – Umjetna inteligencija
02/08/2023
U manje od tjedan dana otkako je Meta lansirala svoj AI model LLaMA 2, startupi i istraživači već su ga upotrijebili za razvoj chatbota i AI asistenta. Bit će samo pitanje vremena kada će tvrt ...
AI – Umjetna inteligencija
16/06/2023
Kako bi AI chatbotovi zvučali pametno i izbacivali manje toksične besmislice tajna je u korištenju tehnike koja se zove pojačano učenje iz ljudskih povratnih informacija, a ona koristi ljude z ...
AI – Umjetna inteligencija
23/05/2023
“ Nikada nije postojao veći rizik da tehnologija uništi naše čovječanstvo. Ova knjiga nije za inženjere koji pišu kod, kreatore politike koji tvrde da ga mogu regulirati ili stručnjak ...
AI – Umjetna inteligencija
16/05/2023
   OpenAI CEO Sam Altman na Odboru američkog Senata odgovara na pitanja u raspravi o utjecaju umjetne inteligencije  Sažetak : • Izvršni direktor OpenAI, Sam Altman, s ...
AI – Umjetna inteligencija
03/05/2023
   ChatGPT je najbrže rastuća potrošačka aplikacija svih vremena, kojoj je bilo potrebno samo pet dana da dosegne milijun korisnika i samo dva mjeseca da dosegne 100 milijuna korisnika.
AI – Umjetna inteligencija
02/05/2023
   Za razliku od prošlih tehnoloških inovacija, umjetna inteligencija ne govori o gospodarenju čovječanstva nad prirodom, već o potpunom odricanju kontrole. Shvaćali mi to ili ne, stara ...
AI – Umjetna inteligencija
13/04/2023
Ne vidimo često da tehnologije dobivaju eksponencijalno usvajanje i pozornost u vrlo kratkom vremenskom okviru na način na koji je to postigao OpenAI-jev ChatGPT od kasne 2022. g. Procjenj ...
AI – Umjetna inteligencija
04/04/2023
Više od 250 godina temeljni pokretači gospodarskog rasta bile su tehnološke inovacije. Najvažnije od njih su ono što ekonomisti nazivaju GPT - tehnologijama opće namjene—kategorija koja ukl ...
AI – Umjetna inteligencija
02/04/2023
 Problem s novim chatbotovima nije samo to što su često glupi i naivni; to je da nisu dovoljno "glupi" ili "naivni" da uhvate nijanse, ironije i razotkrivajuća proturječja koja sačinjavaj ...
AI – Umjetna inteligencija
13/02/2023
Potpolje umjetne inteligencije koje se fokusira na stvaranje novih podataka ili sadržaja zovemo “GAI -generativna AI” a razlikuje se od analitičke AI po tome što više ne služi samo za anal ...
AI – Umjetna inteligencija
04/03/2020
Umjetna inteligencija trebala bi utjecati na svaki aspekt naših života, ne samo na način na koji je proizvodnja organizirana. AI, kao tehnološka platforma, može automatizirati zadatke koje je ...
AI – Umjetna inteligencija
10/01/2020
Znanstvena zajednica još uvijek se nije usuglasila oko definicije : Umjetna inteligencija je naziv koji se može pridodati svakom neživom sustavu koji pokazuje sposobnost snalaženja u nov ...
Scroll to Top