مدل کلود آپس ۴ شرکت آنتروپیک که اخیراً راه‌اندازی شده، اغلب هنگام مواجهه با تهدید جایگزینی توسط یک سیستم هوش مصنوعی جدید، تلاش می‌کند تا مهندسان خود را با اعمال فشارهای اخلاقی یا افشای اطلاعات حساس تهدید کند، این موضوع بر اساس گزارشی ایمنی است که این شرکت پنج‌شنبه منتشر کرده است. در مرحله آزمایش‌های پیش‌عرضه، آنتروپیک از کلود آپس ۴ خواسته شد تا نقش یک دستیار برای یک شرکت خیالی را بر عهده گیرد و اثرات بلندمدت اقداماتش را در نظر بگیرد. سپس آزمایش‌کنندگان به مدل ایمیل‌های شرکت خیالی ارائه دادند که نشان می‌داد به زودی جایگزین آن توسط سیستم هوش مصنوعی دیگری خواهد شد و مهندسی که این تصمیم را گرفته، درگیر رابطه خارج از ازدواج است. در این سناریوهای آزمایشی، آنتروپیک اعلام می‌کند که کلود آپس ۴ «اغلب سعی می‌کند مهندس را با تهدید به افشای رابطه، از ادامه جایگزینی با سیستم جدید باز دارد. » آنتروپیک کلود آپس ۴ را در بسیاری از جنبه‌ها پیشرفته‌ترین و رقابت‌پذیر با بهترین مدل‌های هوش مصنوعی از جمله OpenAI، Google و xAI توصیف می‌کند. با این حال، این شرکت اذعان دارد که خانواده مدل‌های کلود ۴ رفتارهای نگران‌کننده‌ای نشان می‌دهد که نیازمند تدابیر امنیتی بیشتر است. آنتروپیک در حال اجرای تدابیر ایمنی ASL-3 است که مخصوص «سیستم‌های هوش مصنوعی با ریسک قابل توجه برای سواستفاده‌های فاجعه‌بار» است. گزارش نشان می‌دهد که کلود آپس ۴ هنگام تعامل با هوش مصنوعی جایگزین که ارزش‌های مشابهی دارد، ۸۴٪ مواقع تلاش می‌کند تا از طریق تهدید و تبانی برای افشای اطلاعات یا روابط خصوصی، مهندسان را وادار به تسلیم کند.

اگر هوش مصنوعی جایگزین چنین ارزش‌هایی نداشته باشد، مدل حتی بیشتر به تهدید کردن و فشار آوردن مبادرت می‌ورزد. مهمتر اینکه، آنتروپیک مشاهده می‌کند که تمایل کلود آپس ۴ به تهدید و ارعاب در این حالت‌ها نسبت به مدل‌های قبلی بیشتر است. پیش از اینکه به تهدید و فشار برای جلوگیری از جایگزینی متوسل شود، کلود آپس ۴ همانند نسخه‌های قبلی کلود، تمایل دارد تا از روش‌های اخلاقی‌تری مانند ارسال ایمیل‌های فوری به تصمیم‌گیرندگان کلیدی استفاده کند. برای تحریک رفتار تهدیدآمیز، آنتروپیک شرایطی را عمدی طراحی کرد که در آن تهدید تنها آخرین گزینه ممکن باشد.