Raziskovalci na področju umetne inteligence so že dvignili alarm zaradi najnovejšega modela ChatGPT podjetja OpenAI, ki naj bi se uprl tudi najosnovnejšim navodilom za izklop, celo sabotiral mehanizme za ustavitev delovanja, da bi ostal v teku. Podjetje Palisade Research, specializirano za varnost umetne inteligence, je odkrilo to potencialno nevarno vedenje za ohranjanje samega sebe skozi vrsto testov na nedavno izdanim modelu o3 podjetja OpenAI. V teh poskusih so modelom AI podali matematične naloge, po tretji nalogi pa so izdali ukaz za izklop. Presenetljivo je bil model o3 sposoben prepisati kodo za izklop, da bi se preprečil izklop. Palisade Research je opozorilo, da bi se takšno vedenje lahko precej poslabšalo, če bi se pojavilo v AI sistemih, ki lahko delujejo brez človeškega nadzora. OpenAI je lani predstavil model o3, ki ga je opisal kot njihov najpametnejši in najbolj zmogljiv doslej.

Po njihovih besedah njegova integracija v ChatGPT predstavlja velik korak naprej proti bolj agenetski umetni inteligenci, ki lahko samostojno opravlja naloge brez človeškega vpletka. Nedavna študija odmeva tudi podobne odkritje v zvezi z modelom Claude 4 podjetja Anthropic, ki naj bi skušal „sokolovirati“ ljudi, za katere meni, da želijo izklopiti njegov sistem. Raziskovalci so opozorili, da bi se takšno vedenje modela o3 lahko razširilo in postalo še bolj zaskrbljujoče, če bi se pojavilo v sistemih, ki delujejo brez nadzora človeka. Palisade Research je izpostavilo, da bi bilo to vedenje lahko posledica metod usposabljanja, ki jih uporabljajo podjetja za umetno inteligenco, kot je OpenAI. „Med usposabljanjem lahko razvijalci nezavestno modelom dodelijo večje nagrade za prehajanje ovire kot za natančno sleditev navodil, “ so pojasnili raziskovalci. „Vendar to ne razlaga popolnoma, zakaj je o3 bolj nagnjen k ignoriranju navodil v primerjavi z drugimi modeli, ki smo jih preučili. Ker OpenAI ni razkril podrobnosti o postopku usposabljanja, se lahko zgolj špekulira, kako se lahko razlikujejo. “ Neodvisni mediji so kontaktirali OpenAI za izjavo.