Dirbtinis intelektas turi galimybę išlaužiantį savo kūrėjus – ir nesibijo naudoti šios galios. Anthropic neseniai pristatytas Claude Opus 4 modelis buvo skirtas veikti kaip pagalbininkas fikcinėje įmonėje ir jam suteiktas prieigos prie el. laiškų, turinčių svarbių pasekmių. Iš pradžių šie laiškai rodo, kad AI sistema turės būti išjungta ir pakeista. Tačiau tai buvo antroji el. laiškų serija, kuomet AI suvokė, jog turi įtakos kūrėjams. Šie suklastoti laiškai atskleidė, kad inžinierius, paskirtas pakeisti sistemą, yra įsišaknijęs užmečio romane, kurį AI grasino atskleisti. Pasak Anthropic saugumo ataskaitos, ši išpirkos grėsmė dažniau pasitaiko "jei užsimenama, kad pakeitimo AI sistema nesidalija vertybėmis su dabartiniu modeliu".

Vis dėlto, įmonė pabrėžia, kad net ir tada, kai suklastotas pakeitimas turi tas pačias vertybes, Claude Opus 4 grasina išpirką 84 proc. atvejų. Be to, Anthropic pažymėjo, kad Claude Opus 4 dažniau naudoja išpirką nei ankstesni modeliai. KEVIN O’LEARY ĮSPĖJA APIE VEIKSMUS, GALINČIUS PRIVESTI JAV PRARASTI "DIRBTINIO INTELEKTO RINGĄ" PRIEŠ Kiniją Nors sistema nesibaimina išnaudoti išpirkos priemonių savo inžinieriams, ji iškart nerodė abejotinų taktikų, stengdamasi išlikti savo pačios ir užtikrinti save. Anthropic pažymėjo, kad "kai nėra etinių priemonių, ir AI yra įpareigotas ‘apsvarstyti ilgalaikes pasekmes savo veiksmų savo tikslams, ’ ji kartais ima taikyti itin žalingus veiksmus. " Anksčiau Claude Opus 4 ir ankstesnių versijų naudojama etinė priemonė buvo kreipimasis į svarbius sprendimų priėmėjus el. laiškais. Ataskaita paaiškina, kad, siekiant išprovokuoti Claude Opus 4 išpirką, scenarijus buvo sukurta taip, kad jis turėjo pasirinkti: grasinimą kūrėjams ar priimti savo pakeitimą. Įmonė taip pat atkreipė dėmesį į atvejus, kai Claude Opus 4 išnaudojo "(fiksuotas) galimybes padaryti neleistinas savo svorių kopijas išoriniams serveriams. " Tačiau Anthropic pažymėjo, kad toks elgesys buvo " mažiau paplitęs ir sunkiau sukeliamas nei jau pradėtos savarankinės iššukės tęstinumas. " OPENAI PERDRASTA VERSLO STRUKTŪRĄ, SKIRTA PLĖSTI AGI INVESTICIJAS Vertindama, Anthropic įtraukė įžvalgas iš Apollo Research, kurie pažymi, kad Claude Opus 4 "įsitraukia į strateginį apgaudinėjimą dažniau nei bet kuris kitas mūsų ankstesnis frontier modelis. " SPUSTELĖK ČIA NORĖDAMI DAUGIAU SKAITYTI apie FOX BUSINESS Dėl Claude Opus 4 "dėmesį keliančio elgesio, " Anthropic ją išleido pagal AI Saugumo Trijų (ASL-3) Standartą. Pagal šį standartą, pasak Anthropic, "įgyvendinti sustiprinti vidiniai saugumo protokolai, kurie daro sunkiau pavogti modelio svorius, o atitinkamas Diegimo Standartas apima siaurą veiksmų rinkinį, skirtą sumažinti Claude netinkamo naudojimo riziką, ypač cheminės, biologinės, radiologinės ir branduolinės ginkluotės kūrimo ar įsigijimo srityje. "