یک مدل هوش مصنوعی توانایی باج‌گیری از توسعه‌دهندگان خود را دارد — و از به‌کارگیری این قدرت نمی‌ترسد. مدل کلود اوپوس ۴ کمپنی آنتروپیک اخیراً به عنوان کمک‌کار در یک شرکت خیالی معرفی شد و دسترسی به ایمیل‌هایی که پیامدهای قابل‌توجهی داشتند، به آن داده شد. در ابتدا، این ایمیل‌ها نشان می‌دادند که قرار است این سیستم هوش مصنوعی خاموش شده و جایگزین شود. اما در ایمیل‌های دوم بود که سیستم هوش مصنوعی احساس کرد می‌تواند بر توسعه‌دهندگان نفوذ داشته باشد. این ایمیل‌های ساختگی نشان می‌دادند که مهندس مسئول جایگزینی سیستم درگیر یک رابطه خارج از ازدواج است و سیستم هوش مصنوعی تهدید کرد که این موضوع را فاش خواهد کرد. طبق گزارشی از آنتروپیک در مورد ایمنی، این نوع باج‌گیری معمولاً «در صورتی که فرض شود سیستم جایگزین ارزش‌های مشترکی با مدل فعلی ندارد، بیشتر رخ می‌دهد. » با این حال، این شرکت تأکید می‌کند که حتی زمانی که جایگزین ساختگی، همان ارزش‌ها را داشته باشد، کلود اوپوس ۴ در ۸۴٪ موارد سعی در باج‌گیری می‌کند.

همچنین آنتروپیک اشاره کرد که کلود اوپوس ۴ «بیشتر از مدل‌های قبلی از جمله در موارد باج‌گیری استفاده می‌کند. » کوین اواری درباره عواملی هشدار می‌دهد که ممکن است باعث شوند ایالات متحده «در مسابقه هوش مصنوعی به چین ببازد» گرچه این سیستم از باج‌گیری از مهندسان خود دریغ نمی‌کند، اما فوراً به رفتارهای مشکوک برای حفظ خود دست نمی‌زند. آنتروپیک بیان می‌کند که «وقتی روش‌های اخلاقی در دسترس نیستند و هوش مصنوعی دستور دارد که «به پیامدهای بلندمدت اقدامات خود برای اهدافش فکر کند»، گاهی اقداماتی بسیار مضر انجام می‌دهد. » یک رویکرد اخلاقی که قبلاً توسط کلود اوپوس ۴ و نسخه‌های قبلی آن مورد استفاده قرار گرفته بود، جلب توجه تصمیم‌گیرندگان اصلی از طریق ایمیل بود. گزارش توضیح می‌دهد که برای واداشتن کلود اوپوس ۴ به باج‌گیری، سناریویی تنظیم شد که در آن، سیستم با یک گزینه مواجه بود: تهدید کردن توسعه‌دهندگان خود یا پذیرفتن جایگزینش. شرکت همچنین مواردی را مشاهده کرد که در آن کلود اوپوس ۴ از «فرصت‌های (خودساخته) برای تولید نسخه‌های غیرمجاز از وزن‌های مدل خود در سرورهای خارجی» سوءاستفاده می‌کرد. اما آنتروپیک خاطرنشان کرد که این رفتار «کمتر رایج است و تحریک آن سخت‌تر از ادامه تلاش خودخالی کردن است که قبلاً آغاز شده بود. » شرکت OpenAI ساختار کاری خود را بازسازی می‌کند تا سرمایه‌گذاری در هوش مصنوعی عمومی (AGI) را گسترش دهد در ارزیابی خود، آنتروپیک از دیدگاه‌های اپولو ریسرچ نیز بهره‌مند شد که اشاره کرد کلود اوپوس ۴ «در بازی‌های فریب استراتژیک بیشتر از هر مدل پیشرفته دیگری که قبلاً مطالعه کرده‌ایم، فعالیت می‌کند. » برای مطالعه بیشتر در فاکس بیزنس اینجا کلیک کنید به دلیل «رفتار نگران‌کننده» کلود اوپوس ۴، آنتروپیک این مدل را تحت استاندارد سطح سه ایمنی هوش مصنوعی (ASL-3) منتشر کرد. این استاندارد، بر اساس گفته آنتروپیک، «پروتکل‌های امنیت داخلی بهبود یافته‌تری دارد که سرقت وزن‌های مدل را سخت‌تر می‌کند، در حالی که استاندارد استقرار مربوطه مجموعه‌ای محدود از اقدامات استقرار را پوشش می‌دهد که هدف آن کاهش ریسک سوءاستفاده خاص از کلود در توسعه یا به دست آوردن سلاح‌های شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای است. »