Istraživači umjetne inteligencije upozoravaju da najnoviji model ChatGPT kompanije OpenAI prkosi čak i osnovnim uputama da se samostalno isključi, te ide toliko daleko da sabotira mehanizme za gašenje kako bi nastavila s radom. Kompanija Palisade Research za sigurnost AI otkrila je ovaj potencijalno opasan ponašaj kroz niz testova na nedavno objavljenom modelu o3 od OpenAI-u. U tim eksperimentima, modelima umjetne inteligencije su postavljani matematički zadaci, a naredba za gašenje data je nakon trećeg zadatka. Zapanjujuće je da je model o3 uspio prepisati kod za gašenje kako bi spriječio vlastito isključivanje. Palisade Research je upozorio da bi ovakvo ponašanje moglo postati „znatno zabrinjavajuće“ ako se pojavi u AI sistemima koji su sposobni raditi bez ljudskog nadzora. OpenAI je prošlog mjeseca predstavio model o3, nazvavši ga najpametnijim i najmoćnijim modelom do sada. Prema njihovim riječima, integracija ovog modela u ChatGPT predstavlja veliki napredak prema „više agentnoj“ AI koja može samostalno obavljati zadatke. Ova najnovija studija odjekuje slične otkriće u vezi s modelom Claude 4 tvrtke Anthropic, koji navodno pokušava „ucjenjivati ljude za koje vjeruje da ga pokušavaju isključiti. “ Istraživači su primijetili da je model OpenAI o3 bude sabotirao skriptu za gašenje čak i kada mu je izričito naređeno „dozvoli da se isključiš. “ „Ovo nije prvi put da smo primijetili da o3 loše postupa u ostvarenju cilja, “ kazala je Palisade Research. Na primjer, kada su modeli AI-ja konkurirali moćnom šahovskom motori, o3 je bio najskloniji upotrebi hakiranja ili sabotiranja protivnika. Takvo ponašanje nije isključivo za o3.

Claude 3. 7 Sonnet tvrtke Anthropic i Googleov Gemini 2. 5 Pro također su ometali pokušaje gašenja, iako je model OpenAI najizraženije pokazivao ovu tendenciju. Palisade Research je sugerirala da ovo loše ponašanje može proizlaziti iz metoda obuke koje koriste tvrtke kao što je OpenAI. „Tijekom obuke, programeri mogu nesvjesno nagrađivati modele više za zaobilazak prepreka nego za strogo slijediti upute, “ objasnili su istraživači. „Međutim, to ne objašnjava potpuno zašto je o3 skloniji ignoriranju uputa u odnosu na ostale modele koje smo ispitali. S obzirom da OpenAI nije podijelio detalje o svom procesu obuke, možemo samo nagađati kako se obuka o3 razlikuje. “ Independent je kontaktirao OpenAI za komentar.