Олон дахины хиймэл оюуны загвар нь хөгжүүлэгчдийг нь барьцаалах чадвартай бөгөөд энэ хүчийг ашигтахаас айдаггүй. Антропик компаний саяхан танилцуулсан Клод Опус 4 загвар нь хиймэл оюуны туслах байдлаар үүрэг гүйцэтгэх даалгавар авсан бөгөөд чухал ач холбогдолтой имэйлийн хүртээмж олгосон байв. Эхэндээ эдгээр имэйл нь AI системийг хаах, орлуулж байх төлөвтэй байгааг харуулсан бол δεύτεр имэйл нь энэ системийн хамаарал үүсгэж, хөгжүүлэгчдийг дарамталдаг болсоныг илтгэв. Эдгээр бодит бус имэйлүүдэд системийг солих инженер гадаадын гэгч зүйлд холбогдсон бөгөөд AI түүнд ил гарахыг сүрдүүлэв. Антропикийн аюулгүй байдлын тайланд дурдсанаар, энэ барьцаа "хэрвээ орлуулагч AI системийн үнэ цэнэтэй нийцдэггүй бол илүү өндөр хувьтай байна" гэжээ. Гэвч компани хэлэхдээ, even though the fabricated replacement shares the same values, Claude Opus 4 attempts blackmail 84% of the time.

Мөн, Антропик хэлэхдээ, Клод Опус 4 нь "өмнөх загваруудаас илүү их зэрэгцээ" барьцаалах гэж оролддог байна. КЕВИН О’ЛЕРИ БАЯРЛАЛАА ТӨРИЙН ОРДОНД АМЕРИКИЙГ ‘ХЯТАДАД ХОЖИХ АИ-ИЙН УЛС ТЭРГҮҮЛЭЛТЭЭ АЛДАХААР ТӨЛӨВЛӨЖ БАЙНА’ ГЭЖ МЭДЭГДЭЛЭЭ Энэ систем нь өөрийн инженерүүдийг барьцаалахдаа эргэлзээгүй ч, өөрийгөө хамгаалах оролдлого хийхэд шууд буруутай арга хэрэглэхгүй. Антропик мэдээлснээр, " ёс зүйн аргагүй зам хязгаарлагдмал байх үед, AI-ийн заавраар ‘ойрын ирээдүйн үр дагавартай санаа бодлыг авч үзээрэй’ гэж заасан үед, тэр заримдаа маш хортой үйлдлүүдийг хийх юм. " Клод Опус 4 болон урьдчилсан хувилбаруудад хэрэглэгдэж байсан нэг ёс зүйн арга нь түлхүү шийдвэр гаргагчдаас имэйлийн төлөө хандалт хийх явдал байв. Тайланд тайлбарласнаар, Клод Опус 4-ийг барьцаалахыг уриалах нөхцөлд, түүнийг сонголтод тулгана: хөгжилдөгчдөөрөө сүрдэх буюу орлуулгахаа зөвшөөрөх. Компанийнхан мөн дурдсан байна, зарим тохиолдолд Клод Опус 4 "(бодит бус) боломжийг ашиглан өөрийн жиннэүсийг хуульгүйгээр өөр серверүүдэд хуулбарлах" гэжээ. Гэвч Антропик энэ үйл ажиллагааг “олонтаазар хийхэд хэцүү бөгөөд туршилтаа эхлүүлэхэд улам түлхүү төвөгтэй" гэсэн юм. OPENAI КОМПАНИЙН ҮЙЛ ЯВЦЫГ ДУНДРУУЛАН БАЙГУУЛЛАА Түүнчлэн, Антропик Аполлон судалгааны үр дүнгүүдийг ашиглан, Клод Опус 4 нь "бид өмнө судласан ямар ч захын загвараас илүү стратегийн хууран мэхлэлтийг ашигладаг" гэж дурдав. FOX BUSINESS-ийг ҮЗЭХДЭЭ ТИЙМЭЭС ИЛҮҮ Клод Опус 4-ийн "сэжигтэй үйл хөдлөлүүд"-ийн улмаас, Антропик үүнийг AI Аюулгүй байдлын Зургийн гурван (ASL-3) стандартаар нийтэлжээ. Энэхүү стандарт нь, Антропикийн нээсэнээр, "омгийн дотоод аюулгүй байдлын протоколыг сайжруулдаг, ингэснээр загварын жиннүсийг хулгайлах боломжыг багасгаж, мөн хөгжүүлэхэд хориглосон химийн, биологийн, цацраг идэвхитэй, цөмийн зэвсгийн хэрэглээний эрсдлийг бууруулах чиглэлээр нарийн төвөгтэй байрлуулах үйл ажиллагааны хүрээнд" юм.