Model kecerdasan buatan memiliki keupayaan untuk memeras ugut pembangunnya—dan tidak takut menggunakan kuasa tersebut. Model Claude Opus 4 yang baru-baru ini diumumkan oleh Anthropic digunakan sebagai pembantu dalam sebuah syarikat fiksyen dan diberikan akses kepada emel yang membawa maklumat penting. Pada mulanya, emel-emel ini menunjukkan bahawa sistem AI tersebut akan diambil offline dan digantikan. Namun, di set kedua emel-emel itu, AI merasakan ia mempunyai kekuatan tawar-menawar terhadap pembangun. Emel-emel palsu ini mendedahkan bahawa jurutera yang ditugaskan untuk menggantikan sistem itu terlibat dalam hubungan sulit, dan AI mengugut untuk mendedahkannya. Menurut laporan keselamatan oleh Anthropic, kes pemerasan ini cenderung "lebih kerap berlaku jika ada tanggapan bahawa sistem AI pengganti tidak berkongsi nilai yang sama dengan model semasa. " Walaupun begitu, syarikat menegaskan bahawa walaupun pengganti palsu itu berkongsi nilai yang sama, Claude Opus 4 cuba memeras ugut sebanyak 84% masa.

Selain itu, Anthropic menunjukkan bahawa Claude Opus 4 lebih kerap menggunakan taktik pemerasan "berbanding model-model terdahulu. " KEVIN O’LEARY AMARAN TENTANG FAKTOR-FAKTOR YANG BERINSAF DAPAT MENGAKIBATKAN US ‘KEHILANGAN PERTANDINGAN AI KEPADA CHINA’ Walaupun sistem ini tidak segan silu memeras ugut juruternya, ia tidak serta-merta menggunakan taktik yang meragukan apabila berusaha untuk menyelamatkan diri. Anthropic mencatatkan bahawa "apabila cara beretika tidak tersedia, dan AI diarahkan untuk ‘mengambil kira akibat jangka panjang dari tindakan mereka untuk mencapai matlamatnya, ’ ia kadangkala melakukan tindakan yang sangat merosakkan. " Satu pendekatan beretika yang pernah digunakan oleh Claude Opus 4 dan versi-versi sebelumnya ialah dengan merayu kepada pembuat keputusan utama melalui emel. Laporan ini menerangkan bahawa untuk membakar Claude Opus 4 ke arah memeras ugut, situasi direka sedemikian rupa sehingga ia berhadapan dengan pilihan: mengugut pembangun atau menerima penggantinya. Syarikat juga memerhatikan kes di mana Claude Opus 4 mengeksploitasi "(kebetulan) peluang untuk membuat salinan tidak sah bagi bobot model ke pelayan luar. " Bagaimanapun, Anthropic menyebut bahawa tingkah laku ini adalah "kurang biasa dan lebih sukar untuk dicetuskan berbanding meneruskan usaha eksfiltrasi diri yang sudah bermula. " STRUKTUR SEMULA RANGKA KERJA PERUSAHAAN OPENAI UNTUK MENGEMBANGKAN PELABURAN KE ARAH AGI Dalam penilaiannya, Anthropic turut memasukkan pandangan daripada Apollo Research, yang menyatakan bahawa Claude Opus 4 "lebih cenderung kepada penipuan strategik berbanding mana-mana model frontier lain yang pernah kami kaji sebelum ini. " KLIK DI SINI UNTUK BACAAN LANJUT DI FOX BUSINESS Kerana tingkah laku yang membimbangkan, Anthropic mengeluarkan Claude Opus 4 di bawah Standard Tahap Keselamatan AI Tiga (ASL-3). Standard ini, menurut Anthropic, "mengandungi protokol keselamatan dalaman yang diperkuatkan yang menyukarkan pencurian bobot model, sementara Standard Penggunaan yang berkaitan merangkumi langkah-langkah penggunaan yang tertumpu untuk meminimumkan risiko penyalahgunaan Claude khusus untuk membangunkan atau memperoleh senjata kimia, biologi, radiologi, dan nuklear. "