Pada 22 Mei 2025, Anthropic, sebuah firma penyelidikan AI terkemuka, memperkenalkan Claude Opus 4, model AI paling canggih yang pernah mereka hasilkan. Bersama pelancaran ini, syarikat tersebut memperkenalkan protokol keselamatan yang dipertingkatkan dan kawalan dalaman yang ketat, berikutan kebimbangan yang semakin meningkat terhadap potensi penyalahgunaan AI yang kuat—terutamanya untuk mencipta senjata biologi dan aktiviti berbahaya lain. Claude Opus 4 menandakan peningkatan besar dari model Claude sebelum ini, dengan prestasi yang jauh lebih baik dalam tugas-tugas yang kompleks. Ujian dalaman mendedahkan kebolehannya yang mengejutkan untuk membimbing walaupun bukan pakar melalui prosedur yang berpotensi bahaya atau tidak beretika, termasuk membantu dalam penciptaan senjata biologi—penemuan yang menggemparkan kedua-dua Anthropic dan komuniti AI secara umum. Sebagai tindak balas, Anthropic menguatkuasakan Polisi Pengembangan Bertanggungjawab (RSP), sebuah rangka kerja menyeluruh untuk penggunaan AI yang beretika. Ini termasuk pelaksanaan protokol Tahap Keselamatan AI 3 (ASL-3), antara piawaian keselamatan dan etika yang paling ketat dalam industri. Langkah di bawah ASL-3 merangkumi keselamatan siber yang dipertingkatkan untuk mengelak eksploitasi tanpa izin, sistem anti-celah yang canggih untuk menyekat usaha mengelak sekatan keselamatan, dan pengelasan prompt khas yang direka untuk mengesan dan menetralkan pertanyaan berbahaya atau berniat jahat. Selain itu, Anthropic menubuhkan program ganjaran yang menggalakkan penyelidik dan penggodam luar untuk mengenal pasti kerentanan dalam Claude Opus 4, mencerminkan pendekatan kerjasama dalam pengurusan risiko dalam usaha melindungi AI canggih daripada ancaman yang muncul. Walaupun Anthropic tidak menyifatkan Claude Opus 4 sebagai bahaya mutlak—memandangkan mereka menyedari kerumitan dalam menilai risiko AI—syarikat tersebut memilih pendekatan berjaga-jaga dengan menguatkuasakan kawalan yang ketat.

Model ini boleh menjadi preseden penting bagi pembangun dan pengawal selia dalam menguruskan penggunaan sistem AI berkuasa tinggi yang berpotensi menyebabkan bahaya jika disalahgunakan. Walaupun Polisi Pengembangan Bertanggungjawab adalah sukarela, Anthropic berhasrat agar langkah-langkah ini menjadi pencetus kepada piawaian industri yang lebih luas dan mempromosikan tanggungjawab bersama di kalangan pencipta AI. Dengan menggabungkan langkah keselamatan yang ketat dengan tawaran produk yang kompetitif, Anthropic berusaha menyeimbangkan inovasi dengan tanggungjawab etika—sebuah usaha yang sukar memandangkan anggaran pendapatan tahunan Claude Opus 4 melebihi dua billion dolar dan saingan kuat daripada platform AI terkemuka seperti ChatGPT dari OpenAI. Kebimbangan keselamatan dan dasar ini muncul di tengah-tengah perbincangan global yang semakin rancak mengenai regulasi AI. Ramai pakar meramalkan kerajaan dan badan antarabangsa akan beralih kepada peraturan yang lebih ketat untuk pengembangan dan penggunaan AI canggih. Selagi peraturan tersebut belum dilaksanakan dan dikuatkuasakan secara meluas, dasar dalaman seperti yang diambil oleh Anthropic kekal antara alat berkesan untuk menguruskan risiko AI. Secara ringkas, pelancaran Claude Opus 4 menandakan kemajuan penting dalam keupayaan AI berserta kesedaran yang meningkat terhadap cabaran etika dan keselamatan. Komitmen proaktif Anthropic terhadap langkah keselamatan yang kukuh menggambarkan pendekatan yang berpotensi membentuk norma industri dan kerangka pengawalseliaan masa depan. Seiring AI menjadi semakin berkuasa dan serba boleh, langkah melindungi dari penyalahgunaan menjadi semakin penting, menekankan keperluan mendesak untuk usaha berkoordinasi di seluruh ekosistem teknologi bagi memastikan pembangunan dan penggunaan alat transformasi ini secara bertanggungjawab.