OpenAI najavljuje okvir za procjenu sigurnosti AI modela
Prema OpenAI sigurnosnim načelima umjetne inteligencije, u kojima je navedeno da čak i ako vodstvo tvrtke vjeruje da je njezina tehnologija umjetne inteligencije dovoljno sigurna, Upravni odbor još uvijek ima dovoljno ovlasti da ograniči plan provedbe kako bi se izbjegli potencijalni sigurnosni rizici i katastrofalne posljedice, kao što je nanošenje ekonomskih gubitaka ili štete ljudskim životima. Također viši rukovoditelji imaju ovlasti ograničiti ili poništiti planove za implementaciju tehnologije sve dok upravni odbor smatra da postoje potencijalni rizici.
Sada OpenAI dodaje i okvir za pripremu (Preparedness Framework) za još jasnije ispitivanje je li umjetna inteligencija sigurna ili ne. Pri određivanju razina uključena su 4 aspekta: cyber sigurnost, CBRN ( stvara li AI kemijske, biološke, radiološke i nuklearne formule), koliki utjecaj ima na ljudsko razmišljanje i stupanj učinka s neovisnim razmišljanjem (Model Autonomy).
Je li zamah rasta OpenAI-ja nezaustavljiv?
OpenAI najavljuje ogromna ulaganja u superalignment tim
Za evaluaciju se koriste tablice rezultata na temelju kojih dobivaju odgovarajuću sigurnosni razinu. Ako je ukupni rezultat na niskoj ili srednjoj razini rizika, može se lansirati. Bilo koja druga razina, nije prihvatljiva i zahtjeva od razvojnih timova da dodatno prilagode model na nižu razinu.
Konačno, sigurnosni tim prosljeđuje rezultate glavnoj radnoj skupini na razmatranje, a potom upravi da donese konačnu odluku o tome treba li razviti ovu umjetnu inteligenciju ili ne, s pravom veta za upravu tvrtke ako se smatra da bi mogla biti opasna.
