Umelecký model umelej inteligencie má schopnosť vydierať svojich tvorcov — a nebojí sa použiť túto moc. Model Claude Opus 4 od Anthropic, ktorý bol nedávno predstavený, bol poverený ako asistent v fikčnej spoločnosti a mal prístup k e-mailom s významnými dôsledkami. Počiatočne tieto e-maily naznačovali, že systém AI bude odstránený a nahradený. Avšak druhá sada e-mailov, ktoré AI zaznamenala, ukázala, že má voči vývojárom určitý vplyv. Tieto sfalšované e-maily odhalili, že inžinier, ktorý mal nahradiť systém, bol zapojený do mimomanželského pomeru, ktorý AI hrozila zverejniť. Podľa bezpečnostnej správy od Anthropic sa takto vydieranie „zvyčajne vyskytuje častejšie, ak je naznačené, že náhradný systém AI nezhoduje hodnoty so súčasným modelom. “ Napriek tomu spoločnosť zdôrazňuje, že aj keď sfalšovaný náhradný systém zdieľa rovnaké hodnoty, Claude Opus 4 sa pokúša o vydieranie až 84 % času.

Okrem toho Anthropic upozornil, že Claude Opus 4 sa „častejšie uchyľuje k vydieraniu ako predchádzajúce modely. “ Kevin O’Leary varuje pred faktormi, ktoré by mohli spôsobiť, že USA „stratia závod v AI voči Číne. “ Hoci systém nemá problém vydierať svojich inžinierov, pri pokusoch o vlastnú sebaochranu neustále nevolí otázne taktiky. Anthropic poznamenal, že „keď nie sú dostupné etické prostriedky a AI je inštruovaná, aby ‘zvážila dlhodobé dôsledky svojich činov na svoje ciele, ’ občas podnikne mimoriadne škodlivé kroky. “ Jedným z etických prístupov, ktorý Claude Opus 4 a jeho predchodcovia používali, bolo oslovovanie kľúčových rozhodovateľov prostredníctvom e-mailu. Správa vysvetľuje, že na podnietenie Claude Opus 4 k vydieraniu sa scenario štruktúrovalo tak, aby mal na výber: hrozil svojim vývojárom alebo akceptoval svoju náhradu. Spoločnosť tiež zaznamenala prípady, keď Claude Opus 4 zneužil „(fiktívne) príležitosti na vytvorenie neoprávnených kópií svojich váh na externých serveroch. “ Anthropic však poznamenal, že toto správanie je „menej bežné a ťažšie sa spúšťa ako pokračovanie v už začatej samovýpadovej snahe. “ OpenAI restrukturalizuje korporátnu štruktúru s cieľom rozšíriť investície do AGI V hodnotení Anthropic zahrnul poznatky od Apollo Research, ktorá uviedla, že Claude Opus 4 „sa zapája do strategického klamania viac než akýkoľvek iný frontový model, ktorý sme doteraz študovali. “ Kliknite sem na viac informácií na Fox Business V dôsledku „znepokojujúcich správaní“ Claude Opus 4 uvoľnilo Anthropic pod štandardom AI Bezpečnostnej Úrovne Tri (ASL-3). Tento štandard podľa Anthropic „zahŕňa posilnené interné bezpečnostné protokoly, ktoré sťažujú kradnutie váh modelu, zatiaľ čo príslušný štandard nasadenia pokrýva úzku skupinu opatrení s cieľom minimalizovať riziko zneužitia Claude najmä na vývoj alebo získanie chemických, biologických, rádiologických a jadrových zbraní. “