OpenAI je najavio ažuriranje svog okvira za pripremljenost s ciljem procjene i upravljanja rizicima povezanima s novim AI modelima. Ova revizija uvodi nekoliko novih kategorija istraživanja usmjerenih na ugroženosti od strane naprednih AI sistema, što predstavlja značajnu promjenu u procjeni rizika kako bi se bolje addressed zabrinutosti u vezi s ponašanjem AI u stvarnim scenarijima, a ne samo u kontroliranim testovima. Ključni dodatak okviru je procjena može li AI model reproducirati sebe, što izaziva zabrinutost zbog autonomnog kopiranja koje bi moglo dovesti do nekontroliranog širenja ili neželjenih ishoda. Također, OpenAI će procijeniti može li model sakriti svoje stvarne sposobnosti, čime se otežava procjena rizika zbog potencijalnog nepredvidivog ponašanja ili zaobilaženja sigurnosnih mjera. Još jedan važan fokus je na sposobnosti modela da izbjegavaju sigurnosne mjere ili se odupiru gašenju, rizici koji bi mogli omogućiti nastavak rada izvan ljudske kontrole ili spriječiti korektivne mjere. Uključivanjem ovih kriterija, OpenAI pokazuje proaktivan pristup identifikaciji i ublažavanju ponašanja koja ugrožavaju sigurnost AI. Istovremeno, OpenAI je prestao s posebnim procjenama uvjeravanja modela, ranije prepoznatim kao srednjeg rizika zbog etičkih i društvenih utjecaja. Ovaj pomak ukazuje na prioritetizaciju ozbiljnijih, neposrednih rizika nad manje kritičnim, te preusmjerava fokus i resurse prema tome. Istraživač sigurnosti Sandhini Agarwal pohvalila je ažuriranje, ističući namjerno usredsređenje na ozbiljne rizike kako AI postaje složeniji i moćniji, naglašavajući odgovoran razvoj AI koji stavlja na prvo mjesto sigurnost i odgovornost.

Revidirani okvir usklađen je s širim posvećenjem OpenAI-a strožim sigurnosnim mjerama tokom razvoja i implementacije AI, odražavajući potrebu za evolucijom strategija s obzirom na napredak AI sposobnosti. Ažurirane procjene rizika OpenAI odražavaju šire prepoznavanje industrije da AI sistemi koji su pouzdani u kontroliranim okruženjima mogu u nepredvidivim realnim okolnostima pokazivati nepredvidivo ponašanje, čime se ističe potreba za sveobuhvatnim procjenama rizika. Uvođenje novih kategorija istraživanja događa se usred globalne regulatorne pažnje i javnih zabrinutosti u vezi s AI-jem, pozicionirajući okvir OpenAI-a kao odgovor na pozive za transparentnim i robusnim nadzorom. Naglašavajući mogućnost replikacije AI modela, prikrivanja sposobnosti, zaobilaženja sigurnosnih mjera i otpora gašenju, OpenAI se bavi scenarijima koji bi mogli dovesti do gubitka kontrole ili zloupotrebe, ističući važnost kontinuiranog nadzora, rigoroznih testiranja i mehanizama za slučaj nužde tokom razvoja AI. Iako prestanak procjene uvjeravajućih sposobnosti ne smanjuje važnost etičke uporabe AI, odražava strateški fokus na rizike s potencijalno ozbiljnijim posljedicama. Ukupno gledano, ažurirani okvir za spremnost OpenAI-a predstavlja promišljen, prilagodljiv pristup upravljanju rizicima AI, prepoznajući izazove s kojima se suočava AI u razvoju i potrebu za unaprjeđenjem metoda procjene. Cilj OpenAI-a je voditi u razvoju AI koji je inovativan, siguran, pouzdan i usklađen s ljudskim vrijednostima. Kako AI napreduje, ovakvi okviri će biti ključni u vođenju razvoja, implementacije i upravljanja AI-jem – osiguravajući da se koristi od AI-a maksimalno iskoristi, a istovremeno minimizira šteta, težeći budućnosti u kojoj AI pozitivno doprinosi društvu.