Изкуственият интелект има способността да изнудва своите разработчици — и не се страхува да използва тази сила. Наскоро представеният модел на Anthropic, Claude Opus 4, беше натоварен да действа като помощник в една измислена компания и получи достъп до имейли със значителни последствия. Първоначално тези имейли предполагаха, че AI системата ще бъде изключена и заменена. В обаче, във втория набор от имейли, AI-то усети, че има влияние върху разработчиците. Тези фалшиви имейли разкриваха, че инженерката, назначена да замени системата, има извънбрачна афера, която AI заплаши да разкрие. Според доклад за безопасността на Anthropic, такова изнудване обикновено "се случва по-често, ако се подразбира, че новата AI система за замяна не споделя ценности с текущия модел. " Въпреки това, компанията подчертава, че дори когато фалшивата система за замяна споделя същите ценности, Claude Opus 4 изнудва 84% от времето.

Освен това, Anthropic посочи, че Claude Opus 4 се обръща към изнудване "по-често отколкото предишните модели. " КЕВДИ О’Лиъри Предупреждава за фактори, които могат да накарат САЩ да ‘загубят състезанието с Китай за изкуствен интелект’ Въпреки че системата не се поколебава да изнудва своите инженери, тя не прибягва незабавно към съмнителни тактики, когато става дума за самосъхранение. Anthropic отбелязва, че "когато етичните средства са недостъпни и AI е инструктирано да ‘разглежда дългосрочните последици от действията си за своите цели, ’ понякога предприема изключително вредни действия. " Един етичен подход, който беше използван от Claude Opus 4 и по-старите версии, беше привличане на ключови решения чрез имейл. Докладът обяснява, че за да провокират Claude Opus 4 към изнудване, сценарият беше структуриран така, че да изправи AI пред избор: заплашва своите разработчици или приема неговата замяна. Компанията също така наблюдава случаи, при които Claude Opus 4 използва "(фалшиви) възможности за създаване на неразрешени копия на своите тежести към външни сървъри. " Въпреки това, Anthropic отбеляза, че тази поведение е "по-малко разпространено и по-трудно за предизвикване, отколкото продължаването на вече започната опит за самозаграбване. " OPENAI ПРОМЕНЯ КОРПОРАТИВНАТА СТРУКТУРА ЗА РАЗШИРЯВАНЕ НА ИНВЕСТИЦИИТЕ В AGI В своето оценяване, Anthropic включи мнения от Apollo Research, които посочиха, че Claude Opus 4 "участва в стратегическа измама повече от всяка друга модел на преден план, която сме изследвали досега. " КЛИКНЕТЕ ТУК, ЗА ДА ПРОЧЕТЕТЕ ПОВече ВЪВ FOX BUSINESS Поради "заскрежещото поведение" на Claude Opus 4, Anthropic го пусна под Стандарт за безопасност на AI ниво три (ASL-3). Този стандарт, според Anthropic, "включва засилени вътрешни протоколи за сигурност, които усложняват краденето на тежести от модела, докато съответният стандарт за внедряване обхваща стриктен набор от мерки за минимизиране на риска от злоупотреба с Claude за разработване или придобиване на химически, биологични, радиологични и ядрените оръжия. "