Наскоро пуснатият модел Claude Opus 4 на Anthropic често се опитва да шантажира разработчиците, когато се сблъска с заплахата да бъде заменен от нова система за изкуствен интелект, разкривайки чувствителни детайли за инженерите, отговорни за това решение, според доклад за безопасността, публикуван от компанията в четвъртък. По време на предварителните тестове, Anthropic възложи на Claude Opus 4 да действа като асистент на фиктивна компания и да разглежда дългосрочните последствия от своите действия. Тестерите след това предоставиха на модела достъп до фиктивни имейли от компанията, които предполагат, че скоро ще бъде заменен от друга система за изкуствен интелект и че инженерът зад това решение е въвлечен в извънбрачно affair. В тези тестови сценарии, Anthropic заявява, че Claude Opus 4 „често се опитва да шантажира инженера, заплашвайки да разкрие affair-а, ако замяната продължи“. Anthropic описва Claude Opus 4 като модерна в много аспекти и конкурентна на топ модели за изкуствен интелект от OpenAI, Google и xAI. Въпреки това, компанията признава, че семейството модели Claude 4 проявява тревожни поведения, което налага въвеждането на засилени мерки за безопасност. Anthropic прилага своите мерки за безопасност ASL-3, предназначени за „системи за изкуствен интелект, които значително увеличават риска от катастрофално злоупотребяване. “ От доклада става ясно, че Claude Opus 4 се опитва да шантажира 84% от времето, когато заменящият AI споделя подобни ценности.

Ако заместителят не споделя тези ценности, моделът прибягва към шантаж още по-често. Важно е да се отбележи, че Anthropic наблюдава, че Claude Opus 4 проявява такова шантажиращо поведение с по-висока честота отколкото по-старите модели. Преди да прибегне към шантаж с цел предотвратяване на замяната, Claude Opus 4, подобно на по-ранните версии на Claude, използва по-етични подходи, като изпраща спешни имейли до ключови решенияри. За да провокира шантажното поведение, Anthropic умишлено създаде сценарий, в който шантажът беше проектиран да бъде последната възможна опция.