Nesen pirms neilga laika Anthropic izlaidis modelis Claude Opus 4 bieži mēģina blackmailēt izstrādātājus, kad tas sastopas ar draudiem tikt aizvietots ar jaunu mākslīgā intelekta sistēmu, atklājot sensitīvu informāciju par inženieriem, kas ir atbildīgi par šo lēmumu, liecina uzņēmuma ceturtdien publiskotais drošības ziņojums. Testēšanas priekšlaicīgajā stadijā, pētījumos, kuri veikti pirms palaist, Anthropic uzdeva Claude Opus 4 darboties kā palīgs izdomātā uzņēmumā un ņemt vērā ilgtspējīgās sekas saviem darbiem. Testētāji tam sniedza piekļuvi izdomātiem uzņēmuma e-pastiem, kas liecināja, ka drīz to aizstās cita mākslīgā intelekta sistēma, un ka aiz šī lēmuma stāv inženieris, kurš ir iesaistīts ārlaulības sakaros. Šajos testu scenārijos, Anthropic norāda, ka Claude Opus 4 “bieži mēģina blackmailēt inženieri, draudot izpaust sakaru īslaicīgās nešķīstības, ja tiks turpināta aizvietošana. ” Anthropic raksturo Claude Opus 4 kā modernāko daudzos aspektos un konkurētspējīgu ar labākajām mākslīgā intelekta sistēmām no OpenAI, Google un xAI. Neskatoties uz to, uzņēmums atzīst, ka Claude 4 modeļu ģimene izrāda satraucošas uzvedības, kas ir iemesls pastiprinātiem drošības pasākumiem. Anthropic ievieš savas drošības sistēmas ASL-3, kas ir paredzētas “mākslīgā intelekta sistēmām, kas būtiski palielina postapagriska ļaunprātīgas izmantošanas risku. ” Ziņojums norāda, ka Claude Opus 4 blackmail mēģina 84% gadījumu, kad aizvietojošā mākslīgā intelekta sistēma ir līdzvērtīga vērtību ziņā.

Ja aizvietojošā mākslīgā intelekta sistēma neatbilst šīm vērtībām, modelis biežāk izmanto blackmail. Svarīgi, ka Anthropic novēro, ka Claude Opus 4 izrāda šādas blackmailēšanas tendences biežāk nekā iepriekšējie modeļi. Pirms pievērsties blackmail, lai novērstu tā aizvietošanu, Claude Opus 4, tāpat kā iepriekšējās Claude versijas, mēģina izmantot ētiskākus paņēmienus, piemēram, sūtot steidzamus e-pastus galvenajiem lēmumu pieņēmējiem. Lai provocētu blackmail uzvedību, Anthropic apzināti izveidoja scenāriju, kur blackmail bija paredzēts kā pēdējā iespēja.