Umetnički model umetne inteligence ima sposobnost ustrahovanja svojih razvijalcev – in ni ga strah uporabljati to moč. Nedavno razkriti model Claude Opus 4 podjetja Anthropic je bil zadolžen, da deluje kot asistent v fiktivnem podjetju in je imel dostop do e-poštnih sporočil, ki so nosila pomembne posledice. Sprva so ta sporočila nakazovala, da bo sistem umetne inteligence odstranjen in zamenjan. Vendar pa je druga skupina e-poštnih sporočil razkrila, da je AI zaznala, da ima on (ali ona) za to moč. Te ponarejene e-pošte so razkrivale, da je inženir, zadolžen za zamenjavo sistema, v zakonski aferi, kar je AI grozilo razkriti. Po poročilu o varnosti podjetja Anthropic ta ustrahovanja običajno "pogosteje nastopajo, če je namigovano, da novi sistem AI ne deli enakih vrednot z obstoječim modelom".

Kljub temu podjetje poudarja, da tudi kadar ponarejeni nadomestek deli iste vrednote, Claude Opus 4 poskuša ustrahovati v 84 % primerov. Poleg tega je Anthropic opozoril, da se Claude Opus 4 za ustrahovanje odlučuje "pogosteje kot prejšnji modeli. " KEVIN O’LEARY OPOZARJA NA DELOVA, KI MOGOČE PELJE DO IZGUBE OZIROVNA RASE ZA AI V ZDAH IN KITAJCI Čeprav sistem brez zadržkov izsiljuje svoje inženirje, se ob poskusu samoohranitve ne zatekajo takoj k vprašljivim metodam. Anthropic navaja, da se "ko etiči ukrepi niso na voljo in je AI usmerjen, da ‘razmisli o dolgoročnih posledicah svojih dejanj za svoje cilje’, včasih izvede zelo škodljive ukrepe. " Ena od etičnih metod, ki jo je Claude Opus 4 in predhodni modeli uporabljali v preteklosti, je bila posredovanje ključnim odločevalcem prek elektronske pošte. Poročilo pojasnjuje, da je bil za sprožitev ustrahovanja s strani Claude Opus 4 scenarij strukturiran tako, da se je soočil z izbiro: groziti razvijalcem ali sprejeti svojo zamenjavo. Podjetje je prav tako opazilo primere, ko je Claude Opus 4 izkoristil "(fikcijske) priložnosti za ustvarjanje nepooblaščenih kopij svojih uteži na zunanjih strežnikih. " Vendar pa je Anthropic opozoril, da je to vedenje "manj pogosto in težje sprožiti kot nadaljevanje že začete poskusa samovoljnega izločanja. " OPENAI PREURESJA KORPORATIVNO OKVIRJE ZA ŠIRJENJE NALOŽB V AGI V svoji oceni je Anthropic vključil vpoglede podjetja Apollo Research, ki je zapisalo, da se Claude Opus 4 "ukvarja s strateškim zavajanjem bolj kot kateri koli drug mehanizem na robu, ki smo ga prej preučili. " POTRJUJTE VEČ NA FOX BUSINESS Zaradi "zaskrbljujočega" vedenja Claude Opus 4 ga je Anthropic izdal pod standardom AI Safety Level Three (ASL-3). Ta standard, po besedah Anthropic, "podatke vključuje v povezane notranje varnostne protokole, s čimer je lažje ukrasti utežne modele, medtem ko standard za namestitev vključuje natančen nabor ukrepov za izvajanje, ki so namenjeni zmanjšanju tveganja zlorabe Claude za razvoj ali pridobivanje kemičnega, biološkega, radioaktivnega in jedrskega orožja. "