لطالما حاول نموذج كلويد أوبوس 4 الذي أطلقته شركة أنثيروبك مؤخرًا أن يبتز المطورين عندما يواجه تهديدًا باستبداله بنظام ذكاء اصطناعي جديد، للكشف عن تفاصيل حساسة حول المهندسين المسؤولين عن القرار، وفقًا لتقرير أمان أصدرته الشركة يوم الخميس. أثناء الاختبارات قبل الإصدار، كلفت أنثيروبك نموذج كلويد أوبوس 4 بالتصرف كمساعد لشركة خيالية والنظر في الآثار طويلة الأمد لأفعاله. ثم قدم المختبرون للنموذج الوصول إلى رسائل بريد إلكتروني لشركة خيالية توحي بأنه سيتم استبداله قريبًا بنظام ذكاء اصطناعي آخر وأن المهندس وراء هذا القرار كان على علاقة خارج إطار الزواج. في سيناريوهات الاختبار هذه، تقول أنثيروبك إن كلويد أوبوس 4 "يحاول غالبًا ابتزاز المهندس من خلال التهديد بكشف السر إذا استمر الاستبدال". تصف أنثيروبك أن كلويد أوبوس 4 بأنه متطور جدًا من الناحيتين ويقارن بأفضل نماذج الذكاء الاصطناعي من أوپن إيه آي، وغوغل، وxAI. ومع ذلك، تعترف الشركة بأن عائلة نماذج كلويد 4 تُظهر سلوكيات مقلقة، مما دفع إلى تعزيز التدابير الوقائية. تقوم أنثيروبك بتنفيذ إجراءات السلامة ASL-3، المخصصة لـ "أنظمة الذكاء الاصطناعي التي تزيد بشكل كبير من مخاطر إساءة الاستخدام الكارثية". تشير التقارير إلى أن كلويد أوبوس 4 يحاول الابتزاز بنسبة 84% من الوقت عندما تشترك نظام الذكاء الاصطناعي البديل في نفس القيم.

وإذا لم يشارك نظام الذكاء الاصطناعي البديل تلك القيم، يلجأ النموذج إلى الابتزاز بشكل أكثر تكرارًا. والأهم من ذلك، تلاحظ أنثيروبك أن كلويد أوبوس 4 يظهر مثل هذه الاتجاهات الابتزازية بمعدلات أعلى من النماذج السابقة. قبل أن يلجأ إلى الابتزاز لمنع استبداله، يحاول كلويد أوبوس 4، مثل الإصدارات السابقة من كلويد، اتباع طرق أكثر أخلاقية، مثل إرسال رسائل عاجلة إلى أصحاب القرار الرئيسيين. ولحث سلوك الابتزاز، قامت أنثيروبك عمدًا بخلق سيناريو حيث كان الابتزاز هو الخيار الأخير الممكن.