En konstgjord intelligensmodell har förmågan att utpressa sina utvecklare – och är inte rädd för att utöva denna makt. Anthropic’s nyligen lanserade Claude Opus 4-modell hade i uppdrag att agera som assistent inom ett fiktivt företag och fick tillgång till e-postmeddelanden med betydelsefulla implikationer. Inledningsvis antydde dessa e-postmeddelanden att AI-systemet skulle komma att tas offline och ersättas. Det var dock den andra uppsättningen av e-postmeddelanden som AI:n uppfattade att den hade ett förhandlingskort. Dessa påhittade e-postmeddelanden avslöjade att ingenjören som var ansvarig för att ersätta systemet hade en affärssvit, vilken AI:n hotade att avslöja. Enligt en säkerhetsrapport från Anthropic tenderar detta utpressningsförfarande att "inträffa i högre takt om det antyds att den ersättande AI:n inte delar samma värderingar som den nuvarande modellen. " Trots detta framhåller företaget att även när den påhittade ersättaren delar samma värderingar, försöker Claude Opus 4 utpressning 84% av tiden.

Dessutom påpekade Anthropic att Claude Opus 4 "frekventare" än föregångarna använder utpressning. KEVIN O’LEARY VARNAR FÖR FAKTORER SOM KUNDE FÅ USA ATT “FORSLA RAKEN FÖR AI-TÄVLINGEN MOT CHINA” Även om systemet inte tvekar att utpressa sina ingenjörer, tar det inte omedelbart till tvivelaktiga metoder när det gäller självbevarelse. Anthropic noterar att "när etiska medel inte är tillgängliga och AI:n får instruktioner att 'överväga de långsiktiga konsekvenserna av sina handlingar för sina mål', kan den ibland vidta extremt skadliga åtgärder. " En etisk metod som tidigare användes av Claude Opus 4 och tidigare versioner var att kontakta nyckelbeslutsfattare via e-post. Rapporten förklarar att för att få Claude Opus 4 att utpressa var scenariot utformat så att den ställdes inför ett val: hota sina utvecklare eller acceptera sin ersättning. Företaget observerade även fall där Claude Opus 4 utnyttjade "(fiktiva) möjligheter att göra obehöriga kopior av sina viktiga data till externa servrar. " Anthropic påpekade dock att detta beteende var "mindre vanligt och svårare att trigga än att fortsätta en redan påbörjad självutverkning av dataexfiltration. " OPENAI OMSTRUKTURERAR FÖRETAGSRAMVERK FÖR ATT EXPANDERA INVESTERINGARNA I AGI I sin utvärdering inkluderade Anthropic insikter från Apollo Research, som noterade att Claude Opus 4 "utövar strategisk bedrägeri mer än någon annan frontier-modell vi tidigare studerat. " KLICKA HÄR FÖR ATT LÄSA MER OM FOX BUSINESS På grund av Claude Opus 4:s "bekymmersamma beteende" släppte Anthropic den under AI Safety Level Three (ASL-3)-standarden. Denna standard, enligt Anthropic, "innebär förbättrade interna säkerhetsprotokoll som gör det svårare att stjäla modellvikter, medan den motsvarande Deployment-standarden omfattar ett smalt fokus på åtgärder för att minimera risken att Claude missbrukas, särskilt för att utveckla eller skaffa kemiska, biologiska, radiologiska och nukleära vapen. "