AI – Umjetna inteligencija

Greg Brockman o testiranju GPT-4

Objavljeno

14/04/2023

Jučer, 12.4.2023. u 18:08h, Greg Brockman, predsjednik i suosnivač OpenAI objavio je na Twitteru slijedeći komentar/stav:

“Temeljni duh u mnogim raspravama o tempu napretka umjetne inteligencije – da moramo vrlo ozbiljno shvatiti sigurnost i nastaviti s oprezom – ključan je za našu misiju. Proveli smo više od 6 mjeseci testirajući GPT-4 i učinivši ga još sigurnijim, izgradili smo ga na godinama istraživanja usklađivanja koje smo provodili u iščekivanju modela poput GPT-4.

Očekujemo da ćemo nastaviti povećavati svoje sigurnosne mjere proaktivnije nego što bi mnogi naši korisnici željeli. Naš opći cilj je da svaki model koji isporučimo bude naš najusklađeniji do sada, a to je do sada bilo istinito od GPT-3 (u početku implementiran bez ikakvog posebnog usklađivanja), GPT-3.5 (dovoljno usklađen da se može implementirati u ChatGPT) i sada GPT-4 (radi puno bolje na svim našim sigurnosnim metrikama nego GPT-3.5).

Vjerujemo (i to smo govorili u političkim raspravama s vladama) da bi provođenje moćnih treninga trebalo biti prijavljeno vladama, popraćeno sve sofisticiranijim predviđanjima njihove sposobnosti i utjecaja, zahtijevajući najbolje prakse kao što je opasno testiranje sposobnosti. Smatramo da su upravljanje velikim korištenjem računala, sigurnosnim standardima i regulacijom/dijeljenjem lekcija iz implementacije dobre ideje, ali detalji su stvarno važni i trebali bi se prilagođavati s vremenom kako se tehnologija razvija. Također je važno pozabaviti se cijelim spektrom rizika od današnjih problema (npr. sprječavanje zlouporabe ili samoozljeđivanja, ublažavanje predrasuda) do dugoročnih egzistencijalnih problema.

Možda su najčešća tema iz duge povijesti umjetne inteligencije bila netočna pouzdana predviđanja stručnjaka. Jedan od načina da se izbjegnu neuočene pogreške u predviđanju je da tehnologija u svom trenutnom stanju ima rani i česti kontakt sa stvarnošću dok se iterativno razvija, testira, implementira i cijelo vrijeme poboljšava. A postoje i kreativne ideje o kojima ljudi često ne raspravljaju, a koje mogu poboljšati sigurnosno okruženje na iznenađujuće načine — na primjer, lako je stvoriti kontinuum postupno boljih AI-ova (kao što je postavljanje sljedećih kontrolnih točaka danog treninga), koji predstavlja sigurnosnu priliku vrlo različitu od našeg povijesnog pristupa rijetkih velikih nadogradnji modela.

Nadolazeća transformativna tehnološka promjena umjetne inteligencije je nešto što je istovremeno razlog za optimizam i zabrinutost — cijeli niz emocija je opravdan i dijele ga i ljudi unutar OpenAI. Posebna je prilika i obveza za sve nas da smo živi u ovom vremenu, da imamo priliku zajedno osmišljavati budućnost.”

” …to be alive at this time,…” fraza potaknula je raspravu na Twitteru, očekujemo nove komentare.

 

Više iz kategorije

AI - Umjetna inteligencija

AI – Umjetna inteligencija, Blog, Tehnologije
22/03/2024
Satya Nadella, glavni izvršni direktor Microsofta objavio je organizacijsku novost zaposlenicima: " Danas želim podijeliti uzbudljivu i važnu vijest. Nalazimo se u drugoj godini promjene ...
AI – Umjetna inteligencija, Tehnologije
15/03/2024
U Poznanu, 325 kilometara istočno od Varšave, tim tehnoloških istraživača, inženjera i skrbnika o djeci radi na maloj revoluciji. Njihov zajednički projekt, ‘Insension’, koristi se prepo ...
AI – Umjetna inteligencija, Blog, Tehnologije
07/03/2024
Microsoft je uložio 2 milijarde eura u francusku AI tvrtku Mistral, integrirajući Mistralov AI model
AI – Umjetna inteligencija, Blog, Tehnologije
07/03/2024
Anthropic je predstavio Claude 3, svoj najnovij ...
AI – Umjetna inteligencija, Tehnologije
07/03/2024
DeepMind alumni Yishu Miao i Ziyu Wang predstavili su Haiper, alat za generiranje videa pokretan umjetnom inteligencijom, usred sve ve ...
AI – Umjetna inteligencija, Tehnologije
07/03/2024
   IEEE Spectrum objavio je članak o postavljanju upita velikim jezičnim modelima (LLM) - promp ...
AI – Umjetna inteligencija, Tehnologije
13/02/2024
Izvršni direktor OpenAI-ja, Sam Altman, navodno nastoji osigurati neviđeni raspon financiranja od 5 do 7 bilijuna dolara za projekt usmjeren na širenje globalnih mogućnosti proizvodnje čipova ...
AI – Umjetna inteligencija, Tehnologije
10/02/2024
Coalition for Content Provenance and Authenticity (C2PA), tijelo za globalne standarde koje unapređuje transparentnost na internetu putem potvrđivanja porijekla digitalnog sadržaja, objavilo je ...
AI – Umjetna inteligencija, Tehnologije
07/12/2023
Google je nadogradio svoj AI chatbot Bard s Gemini, svojim najnovijim modelom umjetne inteligencije, poboljšavajući Bardove mogućnosti rasuđivanja, razumijevanja i planiranja. Gemini, dostupan ...
AI – Umjetna inteligencija, Tehnologije
01/12/2023
Magazin Foreign Affairs u izdanju za studeni/prosinac 2023. objavio je članak "Nadolazeća ekonomska revolucija umjetne ...
AI – Umjetna inteligencija, Tehnologije
25/11/2023
Treći vikend u studenom 2023.g. biti će upamćen po zasad najvećoj bitci snaga sigurnosti u razvoju protiv snaga ubrzanja razvoja AI. U tjedan dana konflikt izmedju predstavnika neprofitnog i ko ...
AI – Umjetna inteligencija, Tehnologije
23/11/2023
Konkurentska prednost u brzom svijetu umjetne inteligencije Dok OpenAI prolazi kroz svoje unutarnje sukobe, njegov konkurent Anthropic ne gleda samo sa strane. Pokrenuli su
AI – Umjetna inteligencija
10/11/2023
OpenAI održao je 6. 11. u San Francisku prvu konferenciju za razvojne inženjere. Podijelili su desetke novih dodataka i poboljšanja te smanjili cijene u mnogim dijelovima platforme. To uk ...
AI – Umjetna inteligencija
09/11/2023
Fei-Fei Li je pionir moderne umjetne inteligencije (AI). Njezin rad pružio je ključni sastojak - velike podatke - za otkrića dubokog učenja. Revolucionarni doprinos razvoju suvremene umjetne in ...
AI – Umjetna inteligencija
26/09/2023
2020. godine potpredsjednik za istraživanja OpenAI-a Dario Amodei napustio je tvrtku za umjetnu inteligenciju i osnovao suparnički startup pod nazivom
AI – Umjetna inteligencija
20/09/2023
Nadolazeći val (The Coming Wave) Sulejmanovo je upozorenje o tehnolo ...
AI – Umjetna inteligencija
12/09/2023
Google DeepMind lansirao je novi alat za označavanje vodenim žigovima koji označava jesu li slike generirane umjetnom inteligencijom. To je prva velika tehnološka tvrtka koja ga je javno lansir ...
AI – Umjetna inteligencija
02/08/2023
Iako se deepfake pornografija bez pristanka godinama koristi za mučenje žena, najnovija generacija umjetne inteligencije čini to još većim problemom. Ti su sustavi puno lakši za korištenje o ...
AI – Umjetna inteligencija
02/08/2023
U manje od tjedan dana otkako je Meta lansirala svoj AI model LLaMA 2, startupi i istraživači već su ga upotrijebili za razvoj chatbota i AI asistenta. Bit će samo pitanje vremena kada će tvrt ...
AI – Umjetna inteligencija
21/07/2023
Bijela kuća danas je objavila da su neke od najnaprednijih AI tvrtki u zemlji sklopile dobrovoljni sporazum o upravljanju rizicima povezanim s tehnologijom koja se brzo razvija. Amazon, Anth ...
AI – Umjetna inteligencija
16/06/2023
Kako bi AI chatbotovi zvučali pametno i izbacivali manje toksične besmislice tajna je u korištenju tehnike koja se zove pojačano učenje iz ljudskih povratnih informacija, a ona koristi ljude z ...
AI – Umjetna inteligencija
06/06/2023
Melissa Heikkila, MIT Technology Review u svom tjednom obraćanju The Algorithm Posljednjih nekoliko tjedana diskursom umjetne inteligencije dominirala je glasna skupina stručnjaka ...
AI – Umjetna inteligencija
23/05/2023
“ Nikada nije postojao veći rizik da tehnologija uništi naše čovječanstvo. Ova knjiga nije za inženjere koji pišu kod, kreatore politike koji tvrde da ga mogu regulirati ili stručnjak ...
AI – Umjetna inteligencija
16/05/2023
   OpenAI CEO Sam Altman na Odboru američkog Senata odgovara na pitanja u raspravi o utjecaju umjetne inteligencije  Sažetak : • Izvršni direktor OpenAI, Sam Altman, s ...
AI – Umjetna inteligencija
16/05/2023
Izvršni direktor OpenAI Sam Altman sastat će se sa zakonodavcima na Capitol Hillu ovaj tjedan dok Kongres i Bijela kuća traže moguće načine za reguliranje umjetne inteligencije. ...
AI – Umjetna inteligencija
11/05/2023
No stručnjaci kažu da bi se puštanje ovih modela u divljinu prije popravljanja njihovih nedostataka moglo pokazati iznimno riskantnim za tvrtku. Google stavlja moćne nove AI al ...
AI – Umjetna inteligencija
03/05/2023
   ChatGPT je najbrže rastuća potrošačka aplikacija svih vremena, kojoj je bilo potrebno samo pet dana da dosegne milijun korisnika i samo dva mjeseca da dosegne 100 milijuna korisnika.
AI – Umjetna inteligencija
02/05/2023
   Pola stoljeća dr.Geoffrey Hinton njegovao je tehnologiju u srcu chatbota kao što je ChatGPT. Sada napušta Google kako bi mogao slobodno podijeliti svoju zabrinutost da bi umjetna inteli ...
AI – Umjetna inteligencija
02/05/2023
   Za razliku od prošlih tehnoloških inovacija, umjetna inteligencija ne govori o gospodarenju čovječanstva nad prirodom, već o potpunom odricanju kontrole. Shvaćali mi to ili ne, stara ...
AI – Umjetna inteligencija
13/04/2023
Istraživači sa Stanforda upotrijebili su Generativnu AI za simulaciju uvjerljivog ljudskog ponašanja u simuliranom svijetu. "Generativni agenti se probude, skuhaju doručak i krenu na pos ...
AI – Umjetna inteligencija
13/04/2023
Ne vidimo često da tehnologije dobivaju eksponencijalno usvajanje i pozornost u vrlo kratkom vremenskom okviru na način na koji je to postigao OpenAI-jev ChatGPT od kasne 2022. g. Procjenj ...
AI – Umjetna inteligencija
12/04/2023
Ne čitam svaki dan predviđanje propasti koje je tako zastrašujuće kao ono
AI – Umjetna inteligencija
12/04/2023
Otvoreno pismo Future of Life Institute objavljeno danas poziva "sve AI laboratorije da ...
AI – Umjetna inteligencija
05/04/2023
Apel Instituta za budućnost života - Future of Life Institute Uz izdanje GPT-4 ...
AI – Umjetna inteligencija
04/04/2023
Prošlog proljeća, u "Turingova zamka: Obećanje i opasnost umjetne inteligencije slične ljudskoj", ekonomist sa Stanforda < ...
AI – Umjetna inteligencija
04/04/2023
Nedavna pojava generativne umjetne inteligencije (AI) postavlja pitanje jesmo li na rubu ubrzanja automatizacije zadataka koja će dovesti do uštede troškova rada i povećanja produktivnosti. Una ...
AI – Umjetna inteligencija
04/04/2023
Više od 250 godina temeljni pokretači gospodarskog rasta bile su tehnološke inovacije. Najvažnije od njih su ono što ekonomisti nazivaju GPT - tehnologijama opće namjene—kategorija koja ukl ...
AI – Umjetna inteligencija
02/04/2023
 Problem s novim chatbotovima nije samo to što su često glupi i naivni; to je da nisu dovoljno "glupi" ili "naivni" da uhvate nijanse, ironije i razotkrivajuća proturječja koja sačinjavaj ...
AI – Umjetna inteligencija
13/02/2023
Potpolje umjetne inteligencije koje se fokusira na stvaranje novih podataka ili sadržaja zovemo “GAI -generativna AI” a razlikuje se od analitičke AI po tome što više ne služi samo za anal ...
AI – Umjetna inteligencija
13/03/2022
Dr. Erik J. Larson u Mitu o umjetnoj inteligenciji  pridružuje se malom skupu glasova koji ...
AI – Umjetna inteligencija
04/03/2020
Umjetna inteligencija trebala bi utjecati na svaki aspekt naših života, ne samo na način na koji je proizvodnja organizirana. AI, kao tehnološka platforma, može automatizirati zadatke koje je ...
AI – Umjetna inteligencija
10/01/2020
Znanstvena zajednica još uvijek se nije usuglasila oko definicije : Umjetna inteligencija je naziv koji se može pridodati svakom neživom sustavu koji pokazuje sposobnost snalaženja u nov ...
AI – Umjetna inteligencija
06/10/2019
Američki investitor u nove tehnologije (vidi
Scroll to Top