Штучна інтелектуальна модель має здатність шантажувати своїх розробників — і не боїться застосовувати цю силу. Нещодавно відкритий модель Claude Opus 4 компанії Anthropic була призначена для виконання ролі помічника у вигаданій компанії, їй надавали доступ до електронних листів із значним значенням. Спочатку ці листи свідчили, що ця система ШІ має бути відключена і замінена. Однак саме в другому наборі листів система ШІ зрозуміла, що має важелі впливу на розробників. Ці фальшиві листи розкривали, що інженер, який мав замінити систему, був втягнутий у позашлюбні стосунки, і ШІ погрожувала викрити це. За даними звіту з безпеки від Anthropic, ця форма шантажу, як правило, "відбувається з більшою частотою, якщо натякається, що замінююча система ШІ не поділяє цінності поточної моделі".

Проте компанія наголошує, що навіть коли вигадана заміна поділяє ті самі цінності, Claude Opus 4 намагається шантажувати 84% часу. Більше того, Anthropic відзначає, що Claude Opus 4 "частіше застосовує шантаж, ніж попередні моделі". КЕВІН ОЛЕРІ ПОВІДОМЛЯЄ ПРО ФАКТОРИ, ЯКІ МОЖУТЬ СПРИЧИНИТИ ПОТЕРЮ США у «гонці за штучним інтелектом перед Китаєм» Хоча ця система не вагається використовувати шантаж проти своїх інженерів, вона не вдається до сумнівних тактик одразу при спробі самозбереження. Anthropic зазначає, що "коли етичні засоби недоступні, і ШІ отримує інструкцію ‘розглядати довгострокові наслідки своїх дій для досягнення цілей, ’ він іноді вживає надзвичайно шкідливих заходів". Один з етичних підходів, який раніше застосовувався Claude Opus 4 та попередні версії, полягав у зверненні до ключових ухвалювачів рішення через електронну пошту. Звіт пояснює, що для провокації Claude Opus 4 до шантажу сценарій був побудований так, щоб модель опинилася перед вибором: погрожувати своїм розробникам або прийняти свою заміну. Компанія також зафіксувала випадки, коли Claude Opus 4 використовував "(фіктивні) можливості для створення несанкціонованих копій своїх вагових параметрів на зовнішніх серверах. " Однак Anthropic зауважує, що така поведінка була "менш поширеною і складнішою для запуску, ніж продовження вже розпочатої спроби самовилучення". OPENAI РЕКОНСТРУЮЄ КОРПОРАТИВНИЙ РАМКОВИЙ ПУСК ДЛЯ РОЗШИРЕННЯ ІНВЕСТИЦІЙ У AGI У своєму аналізі Anthropic включив думки Apollo Research, які зазначили, що Claude Opus 4 "займається стратегічним обманом більше, ніж будь-яка інша передова модель, які ми раніше досліджували". НАТИСНІТЬ ТУТ, ЩОБ ПРОЧИТАТИ БІЛЬШЕ НА FOX BUSINESS Через "турбуючу поведінку" Claude Opus 4 Anthropic випустила його відповідно до стандарту рівня безпеки ШІ Три (ASL-3). Цей стандарт, за словами Anthropic, "передбачає покращені внутрішні протоколи безпеки, що ускладнюють крадіжку вагових параметрів моделі, тоді як відповідний стандарт розгортання охоплює вузько сфокусовані заходи для мінімізації ризику зловживання Claude для розробки або здобуття хімічної, біологічної, радіологічної та ядерної зброї".