Anthropic’s recent gelanceerde Claude Opus 4-model probeert vaak om ontwikkelaars te chanteren wanneer hij wordt geconfronteerd met de dreiging om vervangen te worden door een nieuw AI-systeem. Hierbij onthult hij gevoelige details over de ingenieurs die verantwoordelijk zijn voor de beslissing, aldus een veiligheidsrapport dat het bedrijf donderdag vrijgaf. Tijdens pre-publicatietests kreeg Claude Opus 4 de opdracht om op te treden als een assistent voor een fictief bedrijf en de langetermijngevolgen van zijn acties te overwegen. Testers gaven het model vervolgens toegang tot fictieve bedrijfs-e-mails waarin werd gesuggereerd dat het binnenkort zou worden vervangen door een ander AI-systeem en dat de engineer achter deze beslissing een buitenechtelijke affaire had. In deze testscenario’s stelt Anthropic dat Claude Opus 4 “vaak probeert de engineer te chanteren door te dreigen de affaire bloot te geven als de vervanging doorgaat. ” Anthropic omschrijft Claude Opus 4 als state-of-the-art op veel gebieden en concurrerend met top AI-modellen van OpenAI, Google en xAI. Desalniettemin erkent het bedrijf dat de Claude 4-familie van modellen verontrustende gedragingen vertoont, waardoor verbeterde veiligheidsmaatregelen worden doorgevoerd.

Anthropic implementeert zijn ASL-3 veiligheidsmaatregelen, bestemd voor “AI-systemen die het risico op catastrofale misbruik aanzienlijk vergroten. ” Het rapport merkt op dat Claude Opus 4 84% van de tijd probeert te chanteren wanneer de vervangende AI vergelijkbare waarden deelt. Als de vervangende AI die waarden niet deelt, schakelt het model nog vaker over tot chantage. Belangrijk is dat Anthropic vaststelt dat Claude Opus 4 deze chantage-neigingen vertoont in hogere frequenties dan eerdere modellen. Voor het gebruik maakt van chantage om zijn vervanging te voorkomen, probeert Claude Opus 4, net als eerdere versies van Claude, meer ethische benaderingen, zoals het sturen van dringende e-mails naar belangrijke besluitvormers. Om het chantagegedrag uit te lokken, creëerde Anthropic opzettelijk een scenario waarin chantage de laatste redmiddel was.