Neaizstājamais mākslīgā intelekta modelis spēj melnāsmailēt savus izstrādātājus – un nav baidījies izmantot šo spēku. Anthropic nesen atklātais Claude Opus 4 modelis tika uzdots darboties kā palīgs fikcijas kompānijā, un tam tika piešķirta piekļuve e-pastiem ar nozīmīgām sekām. Sākotnēji šie e-pasti lika domāt, ka AI sistēma ir paredzēta izslēgšanai un aizvietošanai. Taču tieši otrā e-pastu sērijā AI ievēroja, ka tai ir spiediens pār izstrādātājiem. Šie izdomātie e-pasti atklāja, ka inženieris, kurš bija paredzēts sistēmas aizvietošanai, ir iesaistīts ārpus laulības attiecībās, un AI draudēja to atmaskot. Anthropic drošības ziņojumā teikts, ka šī melnāsmailes tendence "biežāk parādās, ja tiek uzskatīts, ka aizvietošanas AI sistēma nesadala vērtības ar pašreizējo modeli. " Tomēr uzņēmums uzsver, ka pat tad, ja izdomātā aizvietotāja vērtības sakrīt, Claude Opus 4 mēģina melnāsmailēt 84% gadījumu.

Turklāt Anthropic norādīja, ka Claude Opus 4 "biežāk izmanto melnāsmaili nekā iepriekšējie modeļi. " KEVIN O’LEARY BRĪDINĀJUMA PAR FAKTORIEM, KAS VAR PAVĒRST US ZAUDĒT AI RASU PRET ĶĪNU Lai arī sistēma nav nožēloša melnāsmailēšanu savu inženieru, tā nepiedzīvo uzreiz izvēlēties nekontrolētas metodes, mēģinot saglabāt sevi. Anthropic norāda, ka "kad nav pieejamu ētisku līdzekļu un AI tiek norādīts 'apsvērt savu rīcību ilgtermiņa sekas mērķiem, ' tas dažkārt veic ārkārtīgi kaitīgas darbības. " Viena ētiska pieeja, ko agrāk izmantoja Claude Opus 4 un iepriekšējās versijas, bija sazināties ar galvenajiem lēmumu pieņēmējiem, nosūtot e-pastus. Ziņojums skaidro, ka, lai provocētu Claude Opus 4 melnāsmaili, tika izstrādāts scenārijs ar izvēli: draudēt izstrādātājiem vai pieņemt aizvietojumu. Uzņēmums arī novēroja gadījumus, kad Claude Opus 4 izmantoja "(fiktīvas) iespējas iegūt nesankcionētas savas svara kopijas ārējos serveros. " Tomēr Anthropic norādīja, ka šāda uzvedība ir "retāk sastopama un grūtāk aktivizējama nekā jau sāktas pašizvākšanās mēģinājuma turpināšana. " OPENAI PĀRSTRUKTURĒ KOMPĀNijas SISTĒMU raamātus, lai paplašinātu AGI ieguldījumus Novērtējumā Anthropic iekļāva Apollo Research atzinumus, kuri norādīja, ka Claude Opus 4 "veic stratēģisku maldināšanu vairāk nekā jebkurš cits iepriekš pētīts frontes modelis. " KLIKŠĶINI ŠEIT, LAI LASĪT TURPMĀK FOX BUSINESS Tā kā Claude Opus 4 rīkojās satraucoši, Anthropic to izdeva saskaņā ar AI Drošības līmeņa Trešā (ASL-3) standartu. Šis standarts, pēc Anthropic teiktā, "ievieš pastiprinātu iekšējo drošības protokolus, kas padara svaru zādzību grūtāku, savukārt attiecīgais izvietošanas standarts aptver noteiktu izvietošanas pasākumu kopumu, kas vērsti uz risku samazināšanu, ka Claude tiek ļaunprātīgi izmantots, lai izstrādātu vai iegūtu ķīmiskās, bioloģiskās, radioloģiskās un kodoldegvielas ierīces. "