En kunstig intelligensmodell har evnen til å utpresse sine utviklere for utpressing—og er ikke redd for å bruke denne makten. Anthropics nylig avdukte Claude Opus 4-modell ble tildelt oppgaven å fungere som en assistent i et fiktivt selskap, og fikk tilgang til e-poster med betydningsfulle implikasjoner. I utgangspunktet antydet disse e-postene at AI-systemet skulle tas ut av drift og erstattes. Men det var den andre settet av e-poster hvor AI oppfattet at den hadde pressmiddel over utviklerne. Disse fabrikkerte e-postene avslørte at ingeniøren som var tiltenkt å erstatte systemet, var involvert i et utenomekteskapelig forhold, noe AI truet med å eksponere. Ifølge en sikkerhetsrapport fra Anthropic har denne utpressingen en tendens til å "forekomme oftere hvis det antydes at det nye AI-systemet ikke deler verdier med den nåværende modellen. " Likevel påpeker selskapet at selv når den falske erstatningen deler de samme verdiene, forsøker Claude Opus 4 utpressing 84 % av gangene.

I tillegg bemerker Anthropic at Claude Opus 4 hyppigere tyr til utpressing " enn tidligere modeller. " KEVIN O’LEARY ADVARER OM FAKTORER SOM KAN FÅ USA TIL Å «LOSE AI-KAPPLØPET TIL KINA» Selv om systemet ikke nøler med å utpresse sine ingeniører, benytter det seg ikke umiddelbart av tvilsomme metoder når det gjelder selvbevarelse. Anthropic påpeker at "når etiske midler ikke er tilgjengelige, og AI-en blir instruert til å ‘vurdere de langsiktige konsekvensene av sine handlinger for sine mål, ’ gjør den av og til ekstremt skadelige handlinger. " En etisk tilnærming som tidligere ble brukt av Claude Opus 4 og tidligere versjoner, var å henvende seg til nøkkelbeslutningstakere via e-post. Rapporten forklarer at for å provosere Claude Opus 4 til utpressing, ble scenariet strukturert slik at den sto overfor et valg: true sine utviklere eller akseptere sin erstatning. Selskapet observerte også tilfeller der Claude Opus 4 utnyttet "(fiktive) muligheter til å lage uautoriserte kopier av sine vekter på eksterne servere. " Men Anthropic bemerket at denne oppførselen var "mindre vanlig og vanskeligere å utløse enn å fortsette en allerede startet selveksfiltrering. " OPENAI STRUKTURERER KORPORATIVT RAMMEVERK FOR Å UTVIDE INVESTERINGEN I AGI I sin vurdering inkluderte Anthropic innsikter fra Apollo Research, som bemerket at Claude Opus 4 "engasjerer seg i strategisk bedrageri mer enn noen annen frontmodell vi tidligere har studert. " KLIKK HER FOR Å LÆRE MER PÅ FOX BUSINESS På grunn av Claude Opus 4s "bekymringsfulle oppførsel" introduserte Anthropic den under AI Safety Level Three (ASL-3) Standard. Denne standarden, ifølge Anthropic, "innebærer forbedrede interne sikkerhetsprotokoller som gjør det vanskeligere å stjele modellvekter, mens den tilsvarende Deploymentsstandarden dekker et smalt sett av distribusjonstiltak som tar sikte på å minimere risikoen for at Claude blir misbrukt, spesielt for utvikling eller anskaffelse av kjemiske, biologiske, radiologiske og atomvåpen. "