Dvojica istraživača OpenAI-a otpuštena zbog curenja informacija: Što se događa u gigantu umjetne inteligencije?
OpenAI, potresao je još jedan skandal. Leopold Aschenbrenner i Pavel Izmailov, dva istaknuta istraživača, otpušteni su zbog navodnog curenja osjetljivih informacija. Nejasno je koje su informacije procurile, kada, kome i gdje.
Tko su Aschenbrenner i Izmailov?
Leopold Aschenbrenner je član tima za sigurnost OpenAI-a koji ima za cilj razviti tehnologiju za kontrolu i manipuliranje naprednom umjetnom inteligencijom, takozvanom superinteligencijom, i istražiti kako koristiti ovu inteligenciju za rješavanje velikih izazova s kojima se čovječanstvo suočava poput nuklearne fuzije i međuzvjezdane kolonizacije. Prošle jeseni bio je uključen u neuspješni pokušaj svrgavanja izvršnog direktora Sama Altmana. Snažno je povezan s pokretom učinkovitog altruizma, koji naglašava prioritet rješavanja potencijalnih rizika umjetne inteligencije, a ne samo ostvarivanju kratkoročnih dobitaka ili povećanja produktivnosti. Pavel Izmailov je stručnjak za istraživanje rasuđivanja i član tima za sigurnost.
Prvi otkaz u OpenAI-u?
Ne. Ovo je prvi javno objavljeni otkaz otkad se Altman vratio u upravni odbor u ožujku 2024. godine. Prošle godine dogodila se i kontroverzna smjena samog Altmana. Također je Ilya Sutskever, jedan od osnivača OpenAI-a i pristalica učinkovitog altruizma, koji je bio uključen u smjenu Altmana i kritizirao ga zbog netransparentnosti navodno dobio otkaz i napustio upravni odbor. Do sada nitko od Aschenbrennera, Izmailova ili Sutzkevljevog odvjetnika Alexa Weingartena nije odgovorio na otkaz i povezane zahtjeve za komentarom.
OpenAI najavljuje okvir za procjenu sigurnosti AI modela
OpenAI najavljuje ogromna ulaganja u superalignment tim
OpenAI se bori s Googleom, Anthropicom i drugim gigantima za razvoj najnaprednijih modela umjetne inteligencije. Ali ovaj skandal u OpenAI-u otkriva unutarnje sukobe i izazove u razvoju umjetne inteligencije. Pitanja o sigurnosti, transparentnosti i etičkim implikacijama ove tehnologije ostaju na dnevnom redu.
