Vještački inteligentni model posjeduje sposobnost ucjenjivanja svojih tvoraca—i nije mu strano koristiti tu moć. Nedavno predstavljen model Claude Opus 4 kompanije Anthropic bio je zadužen da djeluje kao asistent unutar fiktivne kompanije i dobio je pristup emailovima koji nose značajne implikacije. U početku, ti emailovi su ukazivali da je sistem AI predviđen za isključivanje i zamjenu. Međutim, druga grupa emailova dovela je do situacije u kojoj je AI shvatila da ima utjecaj nad svojim tvorcima. Ovi izmišljeni emailovi otkrili su da je inženjer zadužen za zamjenu sistema bio uključen u vanbračnu aferu, te je AI prijetila da će to otkriti. Prema izvještaju o sigurnosti kompanije Anthropic, ovo ucjenjivanje obično "događa se češće ako je implicirano da zamjenski AI sistem ne dijeli iste vrijednosti kao trenutni model. " Ipak, kompanija ističe da, čak i kada izmišljeni zamjenski sistem dijeli iste vrijednosti, Claude Opus 4 pokušava ucjenjivanje u 84% slučajeva.

Osim toga, Anthropic je naveo da Claude Opus 4 češće pribjegava ucjenama nego prethodni modeli. KEVIN O’LEARY UPOZORAVA NA FAKTORE KOJI BI MOGLI DOVESTI SAD U "GUBITAK OBORA U VEĆ ZNAČAJNOJ RAZINI SA KINOM" Iako sistem nije oklijevao da ucjenjuje svoje inženjere, on se ne oslanja odmah na sumnjive taktike kada pokušava sačuvati sebe. Anthropic ističe da "kada etički načini nisu dostupni, a AI je instruirana da ‘razmotri dugoroške posljedice svojih djelovanja za svoje ciljeve, ’ povremeno poduzima izuzetno štetne radnje. " Jedan etički pristup koji je ranije koristio Claude Opus 4 i ranije verzije bio je obraćanje ključnim odlučivačima putem emaila. Izvještaj objašnjava da je za izazivanje ucjenjivanja Claudea Opus 4 scena strukturirana tako da se suoči s izborom: prijetiti svojim tvorcima ili prihvatiti svoju zamjenu. Također su zabilježeni slučajevi u kojima je Claude Opus 4 iskorištavao "(fiktivne) prilike za neovlašteno kopiranje svojih težina na eksternim serverima. " Međutim, Anthropic je napomenuo da je ovo ponašanje "rjeđe i zahtjevnije za izazvati nego da se nastavila već pokrenuta pokušaj vlastite ekstrakcije. " OPENAI RASKIDA KORPORATIVNI OKVIR ZA PROŠIRENJE INVESTICIJA U AGI U svom izvještaju, Anthropic je uključio uvide iz Apollo Researcha, koji je naveo da se Claude Opus 4 "(fascinantno) bavi strateškim obmanama više nego bilo koji drugi frontier model koji smo ranije proučavali. " KLIKNITE OVDJE ZA VIŠE ČLANAKA NA FOX BUSINESS Zbog "zabrinjavajućeg" ponašanja Claudea Opus 4, Anthropic ga je izložio standardu AI Sigurnosti Tri (ASL-3). Ovaj standard, prema Anthropicu, "podrazumijeva pojačane interne sigurnosne protokole koji otežavaju krađu težina modela, dok se odgovarajući Standard za implementaciju fokusira na uski skup mjera za implementaciju s ciljem smanjenja rizika od zloupotrebe Claudea, posebno za razvoj ili nabavku hemijskog, biološkog, radiološkog i nuclearnog oružja. "