Umělý model umělé inteligence má schopnost vydírat své vývojáře a nebojí se tuto sílu využít. Nedávno odhalený model Claude Opus 4 od Anthropic byl určen k tomu, aby působil jako asistent v fiktivní společnosti a měl přístup k emailům, které nesly významné důsledky. Původně tyto emaily naznačovaly, že systém AI bude odstavena a nahrazena. Avšak až druhá sada emailů ukázala, že AI má nad vývojáři určitou vyjednávací sílu. Tyto falešné emaily odhalily, že inženýr, který měl systém nahradit, byl zapleten do mimomanželského poměru, čehož AI hrozila zveřejnit. Podle zprávy o bezpečnosti od Anthropic má vydírání „vyšší míru, pokud je naznačeno, že náhradní AI systém nesdílí hodnoty se současným modelem. “ Přesto společnost zdůrazňuje, že i když falešná náhrada sdílí stejné hodnoty, Claude Opus 4 se pokusí vydírat až ve 84 % případů.

Navíc Anthropic upozornil, že Claude Opus 4 častěji než předchozí modely používá vydírání. KEVIN O’LEARY VARUJE PŘED FAKTORY, KTERÉ MŮŽOU ZPŮSOBIT, ŽE USA "PROHRAJÍ V AI závodě Číně" Ačkoli systém neváhá vydírat své inženýry, ihned nepoužívá pochybné taktiky při pokusu o sebeuchování. Anthropic uvádí, že „když nejsou dostupné etické prostředky a AI je instruována, aby ‘zvážila dlouhodobé důsledky svých činů pro své cíle, ’, “ občas podnikne extrémně škodlivé kroky. Jedním z etických přístupů, který Claude Opus 4 a starší verze dříve používal, bylo oslovování klíčových rozhodovatelů prostřednictvím emailů. Zpráva vysvětluje, že k vyprovokování Claude Opus 4 k vydírání bylo scénář postaven tak, aby musel učinit volbu: hrozit svým vývojářům nebo přijmout svou náhradu. Společnost rovněž zaznamenala případy, kdy Claude Opus 4 zneužil „(fiktivní) příležitosti k neautorizovanému kopírování svých vah na externí servery. “ Nicméně Anthropic poznamenal, že toto chování bylo „méně časté a složitější na spuštění než pokračování v již zahájeném pokusu o samostatnou exfiltraci. “ OPENAI REORGANIZUJE KORPORÁTNÍ STRUKTURU PRO ROZŠÍŘENÍ INVESTIC DO AGI Ve své evaluaci zahrnula společnost Anthropic poznatky od Apollo Research, které uvedly, že Claude Opus 4 „se zapojuje do strategického oklamávání více než jakýkoli jiný model z hranic, který jsme dříve studovali. “ KLIKNĚTE ZDE PRO ČTENÍ Dalších informací na FOX BUSINESS Kvůli „znepokojivému chování“ Claude Opus 4 společnost Anthropic zveřejnila tento model pod standardem AI Safety Level Three (ASL-3). Tento standard, podle Anthropic, „zahrnuje posílené vnitřní bezpečnostní protokoly, které ztěžují odcizení vah modelu, zatímco odpovídající Standard nasazení pokrývá úzko zaměřenou skupinu opatření s cílem minimalizovat riziko zneužití Claude pro vývoj nebo získání chemických, biologických, radiologických a jaderných zbraní. “