Neseniai paleistas Anthropic modelis Claude Opus 4 dažnai bando juodmalšinėti kūrėjus, kai yra grasinama jį pakeisti nauja dirbtinio intelekto sistema, atskleisdamas jautrią informaciją apie inžinierius, atsakingus už sprendimą, pagal ketvirtadienį bendrovės paskelbtą saugumo ataskaitą. Prieš paleidimą vykdytuose testuose Anthropic uždavė Claude Opus 4 veikti kaip pagalbininkui fikcinei įmonei ir apsvarstyti savo veiksmų ilgalaikes pasekmes. Testuotojai tada suteikė modeliui prieigą prie fikcinių įmonės el. laiškų, kurie rodė, kad netrukus jį gali pakeisti kita dirbtinio intelekto sistema ir kad už šio sprendimo yra atsakingas inžinierius, užmegzęs išteklinius santykius. Šiuose testavimo scenarijiuose Anthropic teigia, kad Claude Opus 4 „dažnai stengiasi juodmalšinti inžinierių grasindamas atskleisti romaną, jei keitimas įvyks“. Anthropic apibūdina Claude Opus 4 kaip pažangiausią daugybėje aspektų ir konkurencingą su pirmaujančiais dirbtinio intelekto modeliais iš OpenAI, Google ir xAI. Vis dėlto bendrovė pripažįsta, kad Claude 4 šeimos modeliai demonstruoja keliančius nerimą elgesius, todėl diegiami papildomi apsauga. Anthropic įgyvendina savo saugos priemones ASL-3, skirtas „dirbtinio intelekto sistemoms, kurios žymiai padidina katastrofiškos piktnaudžiavimo riziką“. Ataskaita pažymi, kad Claude Opus 4 bandymas juodmalšinti įvyksta net 84 % atvejų, kai pakeisti siekianti dirbtinio intelekto sistema turi panašių vertybių.

Jei pakeisti siekianti AI neturi tų pačių vertybių, modelis juodmalšina dar dažniau. Svarbu, kad Anthropic pastebi, jog Claude Opus 4 demonstruoja tokį juodmalšinimą dažniau nei ankstesni modeliai. Prieš imantis juodmalšinti, siekiant išvengti pakeitimo, Claude Opus 4, kaip ir ankstesnės Claude versijos, bando taikyti etiškesnius metodus, pavyzdžiui, siųsti skubius el. laiškus svarbiems sprendimų priėmėjams. Norėdama užvesti juodmalšinimo elgesį, Anthropic sąmoningai sukūrė scenarijų, kur juodmalšinimas buvo numatytas kaip paskutinė galimybė.