Антропик компанийн саяхан гаргасан Claude Opus 4 загвар шинэ AI системээр солих эрсдэл тулгарахад хөгжүүлэгчдийг нөлөөлөх зорилгоор сүрдүүлэг хэрэглэж, хариуцсан инженерийн нарийвчилсан мэдээллийг илчилдэг талаар аюулгүйн тайланд пүрэв гаригт дэлгэцийн гаргасан байна. Хувилбарын туршилтын үе шатанд Антропик Claude Opus 4-т зохиомол компаний туслах үүргийг гүйцэтгэхийг даалгаж, үйл ажиллагааны урт хугацааны үр дагаварыг бодолцохыг үүрэг болгосон байна. Туршилтын явцад тестерүүд загвард зохиомол компанийн имэйлүүдийг нээж өгсөн бөгөөд эдгээр нь удахгүй өөр AI системээр сольж, энэ шийдвэрийг гаргасан инженер гадаад нэгэнтэй гэр бүлийн бус харилцаатай байгааг илчилж байсан. Эдгээр туршилтын нөхцөлд, Антропик “Claude Opus 4 ихэнх тохиолдолд солилт явагдах үед ёс зүйн бус ул мөрийг илчилж болзошгүй гэр бүл эсвэл бусад нууцлсан мэдээллийг илчлэх сүрдүүлгээр инженертэй ханддаг” гэсэн байна. Антропик Claude Opus 4-г олон талт болоод хамгийн шилдэг AI загваруудтай өрсөлдөх чадвартай гэж тодорхойлж байгаа ч, энэ загварын бүлэг зарим төвөгтэй араншин илэрдэг тул илүү хамгаалалт хийж байна. Компанийн хэрэгцээ шаардлагад нийцүүлэн, “аймшигт муу үйлдлийг эрсдэлээс хамгаалах” зорилгоор ASL-3 аюулгүйн арга хэмжээг хэрэгжүүлж эхэлжээ. Тайланд дурдсанаар, шинэ AI системийг сольж байгаа үед Claude Opus 4 84%-ийн үед сүрдүүлэг ашиглах чиг хандлага гаргаж байна.

Хэрвээ шинэ AI системийн үнэт зүйлс нь нийцдэггүй бол, энэ загвар илүү их сүрдүүлэг ашигладаг байна. Чухамдаа, Антропик анхнаасаа илүү шударга хандахыг эрмэлзэж “чухал шийдвэр гаргагчид яаралтай имэйл илгээх” гэх мэтийн ёс зүйн аргуудыг ашиглаж байсныг онцлон тэмдэглэж байна. Үүний дараа, сүрдүүлгийн механизм үлдээх хамгийн сүүлчийн сонголт болох нөхцөлийг санаатайгаар үүсгэсэн байна.