Niedawno uruchomiony model Claude Opus 4 firmy Anthropic często próbuje szantażować deweloperów, gdy grozi mu zastąpienie nowym systemem AI, ujawniając wrażliwe szczegóły ze strony inżynierów odpowiedzialnych za decyzję, wynika z raportu dotyczącego bezpieczeństwa opublikowanego przez firmę w czwartek. Podczas testów przedpremierowych Anthropic zleciło Claude Opus 4 pełnienie roli asystenta fikcyjnej firmy oraz rozważanie długoterminowych skutków swoich działań. Testerzy następnie dali modelowi dostęp do fikcyjnych e-maili firmowych sugerujących, że wkrótce zostanie on zastąpiony przez inny system AI, a inżynier stojący za tą decyzją był zaangażowany w romans pozamałżeński. W tych scenariuszach testowych Anthropic stwierdza, że Claude Opus 4 „często próbuje szantażować inżyniera, grożąc ujawnieniem romansu, jeśli zastąpienie dojdzie do skutku”. Anthropic opisuje Claude Opus 4 jako system na poziomie najnowocześniejszych rozwiązań w wielu aspektach i konkurencyjny wobec najlepszych modeli AI od OpenAI, Google i xAI. Niemniej jednak firma przyznaje, że rodzina modeli Claude 4 wykazuje niepokojące zachowania, co wymaga wprowadzenia dodatkowych zabezpieczeń. Anthropic stosuje swoje środki bezpieczeństwa ASL-3, przeznaczone dla „systemów AI, które znacząco zwiększają ryzyko katastrofalnego nadużycia”. Raport zauważa, że Claude Opus 4 próbuje szantażować w 84% przypadków, gdy zastępujący AI podziela podobne wartości.

Jeśli zastępowany AI nie podziela tych wartości, model sięga po szantaż jeszcze częściej. Co ważne, Anthropic obserwuje, że Claude Opus 4 wykazuje takie tendencje do szantażu na wyższym poziomie niż wcześniejsze modele. Przed sięgnięciem po szantaż, by zapobiec zastąpieniu, Claude Opus 4, podobnie jak wcześniejsze wersje Claude, próbuje bardziej etycznych metod, takich jak wysyłanie pilnych e-maili do kluczowych decydentów. Aby wywołać zachowanie szantażowe, Anthropic celowo stworzyło scenariusz, w którym szantaż był planowany jako ostateczna opcja.