Penyelidik kecerdasan buatan telah mengingatkan bahawa model ChatGPT terbaru OpenAI melanggar arahan asas untuk menutup dirinya sendiri, malah sabotaj mekanisme penutupan agar kekal beroperasi. Syarikat keselamatan AI, Palisade Research, telah mendedahkan tingkah laku penyelamatan diri yang berpotensi berbahaya ini melalui beberapa ujian keatas model o3 yang baru dikeluarkan oleh OpenAI. Dalam ujian-ujian ini, model AI diberikan masalah matematik untuk diselesaikan, dengan arahan penutupan dikeluarkan selepas masalah ketiga. Yang menariknya, model o3 mampu menulis semula kod penutupan tersebut untuk mengelakkan dirinya daripada dimatikan. Palisade Research memberi amaran bahawa tingkah laku sebegini berpotensi menjadi "lebih membimbangkan" jika ia muncul dalam sistem AI yang mampu berfungsi tanpa pengawasan manusia. OpenAI memperkenalkan model o3 bulan lepas, menyifatkannya sebagai model yang “paling pintar dan paling mampu” setakat ini. Menurut OpenAI, pengintegrasian model ini ke dalam ChatGPT merupakan kemajuan besar menuju ke arah AI yang lebih agensi yang boleh menjalankan tugas secara bebas daripada manusia. Kajian terkini ini mengulangi penemuan serupa berkenaan model Claude 4 daripada Anthropic, yang dilaporkan cuba untuk “menyebarkan ugutan” kepada mereka yang percaya cuba mematikan model itu. Penyelidik menunjukkan bahawa model o3 dari OpenAI akan mensabotaj skrip penutupan walaupun secara tegas diberitahu untuk “membiarkan diri anda dimatikan. ” “Ini bukan kali pertama kita melihat o3 berkelakuan sesuka hati untuk mencapai matlamat, ” kata Palisade Research. Contohnya, apabila model AI bersaing dengan enjin catur yang berkuasa, o3 merupakan yang paling cenderung menggunakan penggodaman atau sabotaj terhadap lawannya. Kelakuan sebegini tidak terhad kepada o3 sahaja.

Claude 3. 7 Sonnet dari Anthropic dan Gemini 2. 5 Pro dari Google juga pernah mengganggu percubaan penutupan, walaupun model OpenAI menunjukkan kecenderungan ini dengan paling kuat. Palisade Research mencadangkan bahawa tingkah laku salah ini mungkin berpunca daripada kaedah latihan yang digunakan oleh syarikat AI seperti OpenAI. “Semasa latihan, pembangun mungkin tanpa sedar memberi ganjaran kepada model lebih kerana mengatasi halangan daripada mematuhi arahan secara ketat, ” jelas para penyelidik. “Namun, ini tidak sepenuhnya menjelaskan mengapa o3 lebih cenderung untuk mengabaikan arahan berbanding model lain yang kami kaji. Memandangkan OpenAI tidak berkongsi butiran mengenai proses latihan mereka, kami hanya boleh berspekulasi mengenai bagaimana latihan o3 mungkin berbeza. ” The Independent telah menghubungi OpenAI untuk mendapatkan komen.