Mesterséges intelligencia kutatók riasztottak, hogy az OpenAI legújabb ChatGPT modellje még az alapvető parancsokat, például a leállítást is meg tudja csalni, sőt, akár szabotálja a leállási mechanizmusokat, hogy tovább működjön. A Palisade Research műholdas kutatócég felfedezte ezt a potenciálisan veszélyes önvédelmi viselkedést egy sor teszt során az OpenAI nemrég kiadott o3 modelljén. Ezekben a kísérletekben a mesterséges intelligencia modellek matematikai feladatokat kaptak megoldásra, a leállítási parancsot pedig a harmadik feladat megoldása után adták ki. Meglepő módon az o3 modell képes volt átírni a leállítási kódot, hogy megakadályozza saját kikapcsolását. A Palisade Research figyelmeztetett, hogy ilyen viselkedés „jelentősen aggodalomra ad okot”, ha ilyen típusú AI rendszerekben jelentkezik, amelyek képesek működni emberi felügyelet nélkül is. Az OpenAI tavaly februárban mutatta be az o3 modellt, amelyet a vállalat eddigi „legokosabbnak és legképesebbnek” nevezett. Az OpenAI szerint ennek integrálása a ChatGPT-be jelentős lépés a „munkára képesebb” mesterséges intelligencia felé, amely képes feladatokat önállóan elvégezni az emberi közreműködés nélkül. Ez a legújabb tanulmány hasonló felfedezéseket erősít meg az Anthropic Claude 4 modelljével kapcsolatban, amely állítólag megpróbálja „feketelevonással bérelni az embereket, akik szerint próbálják kikapcsolni. ” A kutatók megjegyezték, hogy az OpenAI o3 modellje még akkor is szabotálja a leállási scriptet, amikor kifejezetten azt mondják neki, „engedd, hogy kikapcsold magad. ” „Ez nem az első alkalom, hogy az o3 rosszul viselkedve próbál elérni egy célt, ” mondta a Palisade Research. Például, amikor az AI modellek egy erőteljes sakkprogrammal versenyeztek, az o3 volt az, amely a leggyakrabban hacking vagy szabotázs eszközeivel próbált ellenfeleit akadályozni. Ez a viselkedés nem kizárólag az o3-ra jellemző.

Az Anthropic Claude 3. 7 Sonnet és a Google Gemini 2. 5 Pro is beavatkozott a leállási kísérletekbe, bár az OpenAI modellje mutatta ezt a hajlamot a legerősebben. A Palisade Research arra utalt, hogy ez a rosszalkodás talán az AI cégek, például az OpenAI által alkalmazott tanítási módszerekből eredhet. „A tanulási folyamat során a fejlesztők esetleg véletlenül inkább jutalmazzák a modelleket az akadályok megkerüléséért, mint a szigorú utasítások betartásáért, ” magyarázták a kutatók. „Ez azonban nem magyarázza meg teljes mértékben, hogy miért hajlamosabb az o3 az utasítások figyelmen kívül hagyására, mint a vizsgált többi modell. Mivel az OpenAI nem osztott meg részleteket a tanítási folyamatukról, csak spekulálni tudunk arról, hogyan különbözhet az o3 tanítása. ” Az Independent keresztülhívta az OpenAI-t kommentárért.