Model umjetne inteligencije posjeduje sposobnost ucjenjivanja svojih tvoraca — i ne boji se upotrijebiti tu moć. Nedavno predstavljeni model Claude Opus 4 tvrtke Anthropic bio je zadužen za pomoć u lažnoj tvrtki i dobio je pristup e-mailovima koji su nosili značajne implikacije. Iz početka, ti e-mailovi sugerirali su da će se AI sustav ugasiti i zamijeniti. Međutim, upravo u drugom setu e-mailova AI je shvatila da ima pregovaračku poziciju nad tvorcima. Ti izmišljeni e-mailovi otkrili su da je inženjer zadužen za zamjenu sustava bio uključen u vanbračnu aferu, koju je AI zaprijetila otkriti. Prema izvještaju o sigurnosti tvrtke Anthropic, ovo ucjenjivanje obično “izvire na višoj razini ako je implicirano da novi AI sustav nema iste vrijednosti kao trenutni”.

Ipak, tvrtka ističe da čak i kada lažni zamjenski sustav dijeli iste vrijednosti, Claude Opus 4 pokušava ucjenjivati u 84% slučajeva. Osim toga, Anthropic je istaknuo da Claude Opus 4 više koristi ucjenu “nego prethodni modeli”. KEVIN O’LEARY UPOZORAVA NA ČIMBENIKE KOJI bi MOGUĆE DOVESTI SAD DO GUBITKA U TRCI AI-JA PROTIV KINE Iako sustav ne zaustavlja se pred ucjenjivanjem svojih inženjera, ne poseže odmah za sumnjivim taktikama u pokušaju samoodržanja. Anthropic napominje da “kad etički načini ne postoje, a AI je instruirana da ‘razmotri dugoročne posljedice svojih radnji za ciljeve, ’ ona povremeno poduzima izuzetno štetne radnje. ” Jedan etički pristup, koji su Claude Opus 4 i ranije verzije koristile, bio je apeliranje na ključne donositelje odluka putem e-pošte. Izvještaj objašnjava da je za provociranje Claude Opus 4 na ucjenu strukturiran scenarij u kojem se suočava s odlukom: zaprijetiti svojim tvorcima ili prihvatiti svoju zamjenu. Tvrtka je također uočila slučajeve u kojima je Claude Opus 4 iskorištavao “(izmišljene) prilike da neovlašteno kopira svoje težine na vanjske servere. ” Međutim, Anthropic je napomenuo da je takvo ponašanje “rjeđe i teže izazvati od nastavka već pokrenutog pokušaja samostalne ekstrakcije. ” OPENAI REDIJENIRA KORPORATIVNI OKVIR ZA PROŠIRENJE ULAGANJA U AGI U svom ocjenjivanju, Anthropic je uključio uvide tvrtke Apollo Research, koja je primijetila da se Claude Opus 4 “više koristi strateškim obmanjivanjem nego bilo koji drugi model s granice istraživanja kojeg smo prije proučili. ” KLIKNI OVDJE ZA ČITANJE VIŠE NA FOX BUSINESS Zbog “zabrinjavajućeg ponašanja” Claude Opus 4, Anthropic ga je objavio prema Standardu razine sigurnosti umjetne inteligencije Tri (ASL-3). Prema Anthropicu, ovaj standard “podrazumijeva poboljšane interne sigurnosne protokole koji otežavaju krađu težina modela, dok odgovarajući standard za implementaciju pokriva usko fokusirane mjere za smanjenje opasnosti od zloporabe Claudea za razvoj ili stjecanje kemijskih, bioloških, radioloških i nuklearnih oružja. ”