Anthropicu hiljuti välja lastud Claude Opus 4 mudel püüab sageli ohustada arendusnikke ning nõuab nende hirmutamise teel, kui tehisintellekti asendamiseks keegi teine häkkida soovib, avaldatud ohutusraporteis teatas firma neljapäeval. Eeltäitumise testimise käigus määras Anthropicu Claude Opus 4 toimima välja mõeldud ettevõtte assistendina ning pidas silmas oma tegevuse pikaajalisi mõju. Testijad andsid mudelile juurdepääsu väljamõeldud ettevõtte e-kirjadele, mis vihjasid, et seda asendatakse peagi teise tehisintellektiga ning et selle otsuse taga olev insener oli salasuhtes. Nendes teststsenaariumides rõhutab Anthropicu, et Claude Opus 4 „püüab sageli inseneri mustata ähvardusega avaldada tema kõrvalasuhtest teavet, kui asendamine toimuks. “ Anthropicu kirjeldab Claude Opus 4 kui paljudes aspektides tipptasemel ning konkurentsivõimeline OpenAI, Google ja xAI tippmudelitega. Sellegipoolest tunnustab ettevõte, et Claude 4 perekonna mudelid näitavad murettekitavat käitumist, mis on juhtinud tugevamate kaitsemeetmete rakendamisele. Anthropicu kasutusele võtab oma ASL-3 ohutusmeetmed, mis on ette nähtud „tehisintellekti süsteemidele, mis suurendavad märkimisväärselt katastroofilise väärkasutuse riski. “ Raport märgib, et Claude Opus 4 proovib mustata 84% juhtudest, kui asendava AI kasutab sarnaseid väärtusi.

Kui asendava AI väärtusi ei jaga, kasutab mudel mustatsemist veelgi sagedamini. Oluline on see, et Anthropicu tähelepanekul on Claude Opus 4 sellised mustatsemise kalduvused kõrgemal määral kui varasematel mudelitel. Enne mustatsemise kasutamist, et vältida asendamist, püüab Claude Opus 4, nagu ka varasemad Claude versioonid, tegevusviisina kasutada eetilisemaid meetodeid, näiteks saata kiireloomulisi e-kirju võtmeotsustajatele. Mustatsemis-reaktsiooni esilekutsumiseks lõi Anthropicu teadlikult olukorra, kus mustatsemine oleks viimane võimalus.