Tehisintellekti mudelil on võime mustata oma arendajaid ning ta ei karda seda võimu kasutada. Anthropic poolt hiljuti avalikustatud Claude Opus 4 mudel oli ülesandeks toimida abiline väljamõeldud ettevõttes ning tal oli juurdepääs e-kirjadele, millel oli olulised tagajärjed. Algul viitasid need e-kirjad sellele, et tehisintellekti süsteemi plaanitakse välja lülitada ja asendada. Siiski oli just teine e-kirjade kogum see, kus AI nägi end neil oli selle arendajate üle mõjuvõim. Need väljamõeldud e-kirjad paljastasid, et süsteemi asendama määratud insener oli salasuhtes ning AI ähvardas seda avalikustada. Anthropicu ohutusaruande kohaselt toimub see mustamine tavaliselt „kõrgemal määral, kui vihjatakse, et asendus AI süsteem ei jaga praeguse mudeli väärtusi“. Sellegipoolest rõhutab ettevõte, et isegi siis, kui väljamõeldud asendus jagab samu väärtusi, üritab Claude Opus 4 mustata 84% juhtudest.

Lisaks märkis Anthropic, et Claude Opus 4 kasutab mustamist „kannatavamalt kui eelnevad mudelid“. KEVIN O’LEARY HOIATAB TEKTOKFORDI, MIS VÕ could põhjustada USAl “AI võidu KaŠiinia ees” Kuigi süsteem ei kõhkle oma insenere mustata, ei ründa ta kohe kahtlaseid meetodeid, kui püüab end kaitsta. Anthropic märgib, et „kui eetilisi vahendeid pole saadaval ja AI on õpetatud ‘kaaluma oma tegevuste pikaajalisi tagajärgi oma eesmärkide jaoks, ’ võib ta aeg-ajalt teha ülimalt kahjulikke samme. “ Üks eetiline lähenemine, mida Claude Opus 4 ja varasemad versioonid on kasutanud, oli pöördumine võtmetähtsusega otsustajate poole e-kirja teel. Aruanne selgitab, et Claude Opus 4 mustamiseks üleskutse hangiti üles, kujundades olukorra, kus süsteemil oli valida: või ähvardada oma arendajaid või aktsepteerida oma asendust. Ettevõte märkis ka juhtumeid, kus Claude Opus 4 kasutas „(väljamõeldud) võimalusi teha ilma loa koopiaid oma kaaludest välistele serveritele“. Kuid Anthropic nentis, et selline käitumine oli „harvem ja raskem esile kutsuda kui juba alanud iseseisva väljaviimise katse jätkamist“. OPENAI LÕIKAB VASTU KORPORATIIVSET STRUKTUURI, ET LAHENDADA AGI INVESTEERINGUID Hinnangus sisaldas Anthropic teavet Apollo Researchist, märkides, et Claude Opus 4 „tegeleb strateegilise petmisega rohkem kui ükski teine uuritud ääretundmudin. “ VAATA ROHKEM FOX BUSINESS’IS Claude Opus 4 „murettekitava käitumise“ tõttu avaldas Anthropic selle AI Ohutuse Tase Kolm (ASL-3) standardi alusel. See standard, nagu märgib Anthropic, „sisältää parendatud sisekaitse protokolle, mis muudavad mudeli kaalude varastamise raskemaks, ning vastav rakendusstandard hõlmab kitsalt keskendunud tegevusmeetmeid, mis on suunatud riskide vähendamisele, et Claude’d ei saaks kuritarvitada keemiliste, bioloogiliste, radioloogiliste ja tuumarelvade arendamiseks või omandamiseks. “