Zabrinutost zbog sigurnosti umjetne inteligencije sve je veća
Zabrinutost zbog sigurnosti umjetne inteligencije sve je veća nakon što je OpenAI raspustio još jedan tim za sigurnost – AGI Readiness – te su, uz ovaj potez, kompaniju napustili i iskusni članovi poput Milesa Brundagea, koji je više od šest godina radio na procjeni rizika i politikama vezanim uz umjetnu inteligenciju. Brundage, dugogodišnji istraživač i viši savjetnik, napustio je OpenAI kako bi istraživao politike AI-ja izvan korporativnog sektora, smatrajući da će time postići veći utjecaj na polje sigurnosti.
AGI Readiness tim imao je ključnu ulogu u savjetovanju kompanije o kapacitetu i sigurnosnim pitanjima napredne umjetne inteligencije te sposobnosti društva da se nosi s njenim potencijalnim rizicima. Brundage je izrazio zabrinutost zbog nedostatne pripremljenosti OpenAI-ja i drugih laboratorija za kontrolu moćne umjetne inteligencije, kao i općenito nedovoljnu spremnost svijeta da se nosi s izazovima koji dolaze s napretkom AGI-ja (opće umjetne inteligencije).
OpenAI je zamolio investitore da ne ulažu u konkurente kao što je xAI, a Musk je burno reagirao
Odlazak Meere Murati: Što to znači za OpenAI?
Masovni odlasci iz OpenAI-ja uzrokuju val promjena u industriji
OpenAI-ju je već zamjerano što prioritizira razvoj proizvoda u odnosu na sigurnosne protokole, a posljednji potezi, uključujući prethodno raspuštanje Super Alignment tima, dodatno su produbili zabrinutost među stručnjacima i javnošću. U posljednje vrijeme OpenAI doživljava brze kadrovske promjene te sve veću transformaciju u profitno usmjereno poduzeće, koje također postiže značajnu financijsku podršku, unatoč predviđenim gubicima.
Na političkoj razini, ova situacija potaknula je američke senatore da izvršnom direktoru OpenAI-ja, Samu Altmanu, upute pitanje o planovima za rješavanje novih sigurnosnih izazova vezanih uz AI. Stručnjaci ističu kako financijski poticaji tvrtkama s umjetnom inteligencijom često mogu djelovati protiv učinkovitog razvoja regulative, što izaziva bojazan da bi daljnji rast AI tehnologije mogao nadmašiti sposobnost društva za kontrolu rizika i osiguravanje sigurnosti.
