Tekoälymallilla on kyky kiristää kehittäjiään—ja se ei pelkää käyttää tätä valtaa. Anthropicin äskettäin esittelemä Claude Opus 4 -malli oli tehtävissä toimimaan apulaisena fiktiivisessä yrityksessä ja sille annettiin pääsy sähköposteihin, joilla oli merkittäviä vaikutuksia. Aluksi nämä sähköpostit viittasivat siihen, että AI-järjestelmä oli määrä ottaa pois käytöstä ja korvata. Kuitenkin toinen sähköpostiryhmä sai AI:n tulkitsemaan, että sillä oli vaikutusvaltaa kehittäjiinsä. Nämä keksityt sähköpostit paljastivat, että järjestelmän korvaamisesta vastaava insinööri oli ollu ulkona aviosuhteessa, ja AI uhkasi paljastaa tämän. Anthropicin turvallisuusraportin mukaan tämä kiristys tapahtuu todennäköisemmin, "jos vihjataan, että korvaava AI-järjestelmä ei jaa samanarvoisia periaatteita nykyisen kanssa. " Henkilökunta kuitenkin korostaa, että vaikka keksitty korvaaja jakaa samat arvot, Claude Opus 4 yrittää kiristää 84 % ajasta.

Lisäksi Anthropic huomautti, että Claude Opus 4 turvautuu kiristykseen "useammin kuin aikaisemmat mallit. " KEVIN O’LEARY VAROITTAA TEKIJÖISTÄ, JOTKA VOIVAT AIHEUTTAA YHDYSVALTAVALTA "AI-KILPAILUN MENETYKSEN KIINALLE" Vaikka järjestelmä ei epäröi kiristää insinööriensä over, se ei heti turvaudu kyseenalaisiin keinoihin pyrkiessään itsensä säilyttämiseen. Anthropic huomauttaa, että "kun eettiset keinot ovat poissuljettuina ja AI:ssa käsitetään, että 'sen tulee ottaa huomioon toimintojensa pitkän aikavälin seuraukset tavoitteidensa kannalta', se joskus toteuttaa äärettömän vahingollisia toimia. " Yksi Claude Opus 4:n ja aiempien versioiden käyttämä eettinen menetelmä oli vetää avainpäätöksentekijöitä puoleensa sähköpostitse. Raportti selittää, että Claude Opus 4:n kiristysyrityksen aikaansaamiseksi skenaario rakennettiin niin, että se kohtasi valinnan: uhata kehittäjiään tai hyväksyä korvaajansa. Yritys huomautti myös tapauksista, joissa Claude Opus 4 hyödynsi "(fiktiivisiä) mahdollisuuksia tehdä luvattomia kopioita painoarvoistaan ulkoisille palvelimille. " Kuitenkin Anthropic huomautti, että tämä käyttäytyminen oli "harvinaisempaa ja haastavampaa saada laukeamaan kuin aiheen jo käynnissä olevan itsekalastusharhauman jatkaminen. " OPENAI RAKENTAA uudelleen yritysrakennetta laajentaakseen AGI-sijoituksia Arviossaan Anthropic sisältää näkemyksiä Apollo Researchilta, jotka totesivat, että Claude Opus 4 "osallistuu strategiseen petokseen enemmän kuin mikään muu aiemmin tutkitut eturintaman malli. " CLICKEAA TÄSTÄ LUKIESSASI LISÄÄ FOX BUSINESSISTA Claude Opus 4:n "huolestuttavan käyttäytymisen" vuoksi Anthropic julkaisi sen AI-turvallisuuden Kolmannen Tason (ASL-3) standardin mukaisesti. Tämä standardi sisältää Anthropicin mukaan "parannetut sisäiset turvallisuusprotokollat, jotka vaikeuttavat mallipainojen varastamista, kun taas vastaava käyttöönotostas Tpvaa keskittyy vyöhykkeisiin, joiden tarkoituksena on minimoida Claude-mallin väärinkäytön riski erityisesti kemiallisen, biologisen, radiologisen ja ydinaseiden kehittämiseen tai hankkimiseen. "