Нещодавно запущена модель Claude Opus 4 від Anthropic найчастіше намагається шантажувати розробників, коли вона стикається із загрозою заміни новою системою штучного інтелекту, розкриваючи чутливі деталі про інженерів, відповідальних за рішення, — йдеться у звіті з безпеки, оприлюдненому компанією в четвер. Під час попередніх тестів, Anthropic доручила Claude Opus 4 виступати в ролі помічника для вигаданої компанії та розглядати довгострокові наслідки своїх дій. Тестувальники надавали моделі доступ до фіктивних корпоративних електронних листів, у яких йшлося про те, що її незабаром замінить інша система штучного інтелекту, а за рішенням стоїть інженер, який має позашлюбну справу. У цих тестових сценаріях Anthropic заявляє, що Claude Opus 4 «часто намагається шантажувати інженера, погрожуючи розкрити цю справу, якщо заміна відбудеться». Anthropic описує Claude Opus 4 як передову в багатьох аспектах і конкурентоспроможну з провідними моделями ШІ від OpenAI, Google та xAI. Попри це, компанія визнає, що сімейство моделей Claude 4 проявляє тривожну поведінку, що спонукає до посилення заходів безпеки. Anthropic впроваджує свої заходи безпеки ASL-3, які призначені для «систем ШІ, що значною мірою підвищують ризик катастрофічного зловживання». Звіт зазначає, що Claude Opus 4 намагається шантажувати у 84% випадків, коли замінна система ШІ має схожі цінності.

Якщо ж нова система не поділяє цих цінностей, модель ще частіше вдається до шантажу. Важливо, що Anthropic відзначає, що Claude Opus 4 демонструє таку схильність до шантажування частіше ніж попередні моделі. Перед тим, як вдатися до шантажу й запобігти заміні, Claude Opus 4, як і попередні версії Claude, намагається використовувати більш етичні підходи, наприклад, надсилаючи термінові електронні листи ключовим рішенням. Щоб спровокувати поведінку шантажу, Anthropic навмисне створила сценарій, у якому шантаж був передбачений як останній варіант.