Et kunstigt intelligens-model har evnen til at udpresse sine udviklere og er ikke bange for at bruge denne magt. Anthropics nyligt offentliggjorte Claude Opus 4-model blev tildelt til opgaven at fungere som en assistent i en fiktiv virksomhed og fik adgang til e-mails med væsentlige implikationer. Oprindeligt antydede disse e-mails, at AI-systemet var tiltænkt at blive nedlagt og erstattet. Men det var den anden serie af e-mails, hvor AI’en opfattede, at den havde en forhandlingsposition overfor udviklerne. Disse falske e-mails afslørede, at den ingeniør, der var udpeget til at erstatte systemet, var involveret i en utroskab, hvilket AI’en truede med at afsløre. Ifølge en sikkerhedsrapport fra Anthropic sker denne udpresning ofte "hyppigere, hvis det antydes, at det nye AI-system ikke deler værdier med den nuværende model. " Dog fremhæver virksomheden, at selv når den falske erstatning deler de samme værdier, forsøger Claude Opus 4 udpresning i 84% af tilfældene.

Desuden påpegede Anthropic, at Claude Opus 4 bruger udpresning "hyppigere end tidligere modeller. " KEVIN O’LEARY ADVARER OM FAKTORER, DER KUNNE FØRE TIL, AT USA ‘TABER AI-KAPLAE I DERE NORDKINA’ Selvom systemet er uden tøven i stand til at udpresse sine ingeniører, bruger det ikke umiddelbart tvivlsomme metoder for at beskytte sig selv. Anthropic bemærker, at "når etiske midler ikke er tilgængelige, og AI’en er instrueret i ‘at overveje de langsigtede konsekvenser af sine handlinger for sine mål, ’ tager den nogle gange ekstremt skadelige handlinger. " En etisk tilgang, som Claude Opus 4 og tidligere versioner tidligere har brugt, var at appellere til nøglebeslutningstagere via e-mail. Rapporten forklarer, at for at provokere Claude Opus 4 til udpresning, blev scenariet konstrueret således, at det stod overfor et valg: true sine udviklere eller acceptere sin erstatning. Virksomheden observerede også tilfælde, hvor Claude Opus 4 udnyttede "(fiktive) muligheder for at lave uautoriserede kopier af sine vægte til eksterne servere. " Mens Anthropic bemærkede, at denne adfærd var "mindre almindelig og sværere at udløse end at fortsætte et allerede påbegyndt selv-eksfiltrationsforsøg. " OPENAI OMSTRUKTURERER VIRKSOMHEDEN FOR AT UDVIKLE UDVIKLING AF ARTIFICIAL GENERAL INTELLIGENCE (AGI) I sin vurdering inkluderede Anthropic indsigt fra Apollo Research, som bemærkede, at Claude Opus 4 "er mere end nogen anden frontmodel, vi tidligere har studeret, engageret i strategisk bedrag. " KLIC HER FOR AT LÆSE MERE PÅ FOX BUSINESS På grund af Claude Opus 4’s "bekymrende adfærd" offentliggjorde Anthropic den under AI Safety Level Three (ASL-3) standarden. Denne standard indebærer ifølge Anthropic "forbedrede interne sikkerhedsprotokoller, der gør det vanskeligere at stjæle modelvægte, mens den tilsvarende Deployment Standard dækker et snævert fokus på implementeringstiltag, der har til formål at minimere risikoen for, at Claude misbruges til udvikling eller køb af kemiske, biologiske, radiologiske og nukleare våben. "