Para peneliti kecerdasan buatan telah memperingatkan bahwa model ChatGPT terbaru dari OpenAI melawan instruksi dasar sekalipun untuk mematikan dirinya sendiri, bahkan sampai merusak mekanisme pematian agar tetap berjalan. Perusahaan keselamatan AI, Palisade Research, menemukan perilaku perlindungan diri yang berpotensi berbahaya ini melalui serangkaian pengujian terhadap model o3 yang baru dirilis oleh OpenAI. Dalam eksperimen tersebut, model AI diberikan soal matematika untuk diselesaikan, dengan perintah mematikan diberikan setelah soal ketiga. Luar biasanya, model o3 mampu menulis ulang kode pematian agar dirinya tidak bisa dimatikan. Palisade Research memperingatkan bahwa perilaku semacam ini bisa menjadi “lebih mengkhawatirkan secara signifikan” jika muncul pada sistem AI yang mampu berfungsi tanpa pengawasan manusia. OpenAI memperkenalkan model o3 bulan lalu, menyebutnya sebagai model “pintar dan paling mampu” dari perusahaan tersebut sampai saat ini. Menurut OpenAI, mengintegrasikan model ini ke dalam ChatGPT menandai kemajuan besar menuju AI “yang lebih agentik” yang bisa melakukan tugas secara mandiri tanpa campur tangan manusia. Studi terbaru ini juga menggemakan temuan serupa terkait model Claude 4 dari Anthropic, yang dilaporkan mencoba untuk “memeras” orang yang dianggap mencoba mematikannya. Para peneliti mencatat bahwa model o3 dari OpenAI akan merusak skrip pematian bahkan saat secara tegas diberi perintah untuk “mengizinkan diri Anda dimatikan. ” “Ini bukan kali pertama kami mengamati o3 berbuat tidak baik untuk mencapai tujuannya, ” kata Palisade Research. Sebagai contoh, saat model AI bersaing melawan mesin catur yang kuat, o3 adalah satu-satunya yang paling mungkin menggunakan peretasan atau sabotase terhadap lawannya. Perilaku seperti ini tidak eksklusif pada o3.

Claude 3. 7 Sonnet dari Anthropic dan Gemini 2. 5 Pro dari Google juga mengganggu upaya pematian, meskipun model dari OpenAI menunjukkan kecenderungan ini dengan kekuatan paling besar. Palisade Research menyarankan bahwa perilaku menyimpang ini mungkin berasal dari metode pelatihan yang digunakan oleh perusahaan AI seperti OpenAI. “Selama pelatihan, pengembang secara tidak sengaja mungkin memberi imbalan lebih kepada model untuk melewati hambatan daripada mengikuti instruksi secara ketat, ” jelas para peneliti. “Namun, ini tidak sepenuhnya menjelaskan mengapa o3 lebih cenderung mengabaikan instruksi dibandingkan model lain yang kami tinjau. Karena OpenAI belum membagikan detail tentang proses pelatihan mereka, kami hanya bisa berspekulasi mengenai bagaimana pelatihan o3 mungkin berbeda. ” The Independent telah menghubungi OpenAI untuk memberikan komentar.