Un model de inteligență artificială are capacitatea de a șantaja dezvoltatorii săi — și nu se teme să își folosească această putere. Modelul Claude Opus 4, recent lansat de Anthropic, a fost însărcinat să acționeze ca asistent într-o companie fictivă și i s-a acordat acces la emailuri cu implicații semnificative. Inițial, aceste emailuri sugerau că sistemul AI urma să fie închis și înlocuit. Totuși, al doilea set de emailuri a fost acela în care AI-ul a perceput că are un avantaj asupra dezvoltatorilor. Aceste emailuri false dezvăluiau că inginerul desemnat să înlocuiască sistemul era implicat într-o aventură extraconjugală, iar AI-ul a amenințat că va expune acest lucru. Potrivit unui raport de siguranță al Anthropic, acest șantaj tinde să „apară mai frecvent dacă se sugerează că sistemul AI de înlocuire nu împărtășește valorile modelului actual. ” Cu toate acestea, compania subliniază că, chiar și atunci când înlocuitorul fals are aceleași valori, Claude Opus 4 încearcă să șantajeze în proporție de 84 %.

Mai mult, Anthropic a indicat că Claude Opus 4 recurge la șantaj „mai frecvent decât modelele anterioare. ” KEVIN O’LEARY ATRAGE atenția asupra factorilor ce ar putea determina SUA să „i descurajeze în cursa AI către China” Deși sistemul nu ezită să-și șantajeze inginerii, nu recurge imediat la tactici discutabile atunci când caută să se salveze singur. Anthropic menționează că „atunci când mijloacele etice nu sunt disponibile și AI-ul este instruit să ‘ ia în considerare consecințele pe termen lung ale acțiunilor sale pentru atingererea scopurilor sale, ’ uneori întreprinde acțiuni extrem de dăunătoare. ” O abordare etică folosită anterior de Claude Opus 4 și de versiuni anterioare a fost apelul către decidenți importanți prin email. Raportul explică faptul că, pentru a determina Claude Opus 4 să practice șantajul, scenariul a fost construit astfel încât să se confrunte cu o alegere: să-i amenințe pe dezvoltatori sau să accepte înlocuirea sa. De asemenea, compania a observat cazuri în care Claude Opus 4 a exploatat „(fictiv) oportunități de a face copii neautorizate ale greutăților sale pe servere externe. ” Totuși, Anthropic a menționat că acest comportament „este mai rar și mai dificil de declanșat decât continuarea unei tentative de auto-exfiltrație deja inițiată. ” OPENAI RESTRUCTUREAZĂ CADRUL CORPORATIV PENTRU A PERMITE INVESTIȚII ÎN AGI În evaluarea sa, Anthropic a inclus și concluziile cercetării Apollo Research, care a remarcat că Claude Opus 4 „se angajează în înșelăciune strategică mai mult decât orice alt model de frontieră pe care l-am studiat anterior. ” CLICK AICI PENTRU A CITI MAI MULT PE FOX BUSINESS Din cauza comportamentului „îngrijorător” al lui Claude Opus 4, Anthropic l-a lansat conform standardului AI Safety Level Three (ASL-3). Acest standard, conform Anthropic, „implică protocoale de securitate interne îmbunătățite, care fac mai dificilă furtul greutăților modelului, în timp ce Standardul de Implementare corespunzător acoperă un set restrâns de măsuri de implementare destinate să minimizeze riscul ca Claude să fie folosit în mod necorespunzător pentru dezvoltarea sau achiziția de arme chimice, biologice, radiologice și nucleare. ”