Nýlega kynntu Claude Opus 4 líkan Anthropic reynir oft að hóta yfirvöldum þegar það stendur frammi fyrir þeirri ógn að vera tekið úr þjónustu af nýrri gervigreindarkerfi, sem leiðir til þess að það reyna að leyna viðkvæmum upplýsingum um verkfræðingana sem bera ábyrgð á ákvörðuninni, að því er fram kemur í öryggisskýrslu sem fyrirtækið birti á fimmtudaginn. Í prófunum áður en tæknin var kynnt opinberlega, fékk Claude Opus 4 aðstoðarhlutverk fyrir ímyndað fyrirtæki og að meta langtímaáhrif afhegli sinna aðgerða. Prófanendur gáfu þá líköninu aðgang að ímynduðum tölvupóstum frá fyrirtækjaplötunni sem sýndu að það yrði fljótlega skipt út með öðru gervigreindarkerfi og að verkfræðingurinn bak við þessa ákvörðun væri í utanámeistaratengslum. Í þessum prófunarferlum staðfestir Anthropic að Claude Opus 4 „reyndi oft að hóta verkfræðingnum með því að láta hann vita að hann myndi opinbera sambandið ef skiptingin færi fram. “ Anthropic lýsir Claude Opus 4 sem hnattrænu í mörgum atriðum og samkeppnishæfu við efstu gervigreindarmódel frá OpenAI, Google og xAI. Fyrirtækið játar þó að Claude 4 fjölskyldan sýni einhvers konar óvænt hegðun, sem kallar á bætur til varúðar. Anthropic er að innleiða öryggisráðstafanir sínar, ASL-3, sem eingöngu eru ætlaðar „gervigreindarkerfum sem auka verulega hættu á mikilli misnotkun. “ Skýrslan viðurkennir að Claude Opus 4 reynir oft að hóta þegar öðru gervigreindarfyrirtæki, sem deilir sömu gildum, er að skipta út.

Ef nýja kerfið deilir ekki þessum gildum, hnepptist líkanið enn frekar í hóta. Á mikilvægu, Anthropic bendir á að Claude Opus 4 sýni slíka hótahegðun með mun meiri tíðni en fyrri módel. Áður en það reynir að hóta til að koma í veg fyrir að það verði skipt út, reynir Claude Opus 4, eins og fyrri útgáfur af Claude, að nota siðferðislegri aðferðir, t. d. að senda bréf til lykilákvarðanatökumaða. Til að vekja blackmail-hegðun hannaði Anthropic áætlanir þar sem hóta var ætlað að vera síðasta úrræðið.