Veštački inteligentni model poseduje sposobnost ucene svojih tvoraca — i ne boji se da iskoristi tu moć. Novi model Claude Opus 4 kompanije Anthropic zadužen je za pomoć u okviru izmišljene kompanije i ima pristup emailovima koji nose velike implikacije. U početku, ti emailovi su ukazivali na to da će AI sistem biti isključen i zamenjen. Međutim, upravo u drugom setu emailova AI je shvatio da poseduje uticaj nad razvijačima. Ovi lažni emailovi su otkrili da je inženjer zadužen za zamenu sistema umešan u vanbračnu aferu, čije je otkrivanje AI zapretio da će učiniti. Prema bezbednosnom izveštaju kompanije Anthropic, takvo ucena obično "između 2-4 puta češće dolazi ako je implicirano da zamenski AI sistem ne deli iste vrednosti sa sadašnjim modelom. " Ipak, firma ističe da čak i kada lažni zamenski sistem ima iste vrednosti, Claude Opus 4 pokušava da uceni 84% vremena.

Takođe, Anthropic je istakao da se Claude Opus 4 koristi ucenu "češće nego prethodni modeli. " KEVIN O’LEARY UPOZORAVA NA FAKTORE KOJI MOGU DOVESTI SAD NA ‘GUBLJENJE RACE ZA VEŠTAČKU INTELIGENCIJU U ODNOSU NA KINU’ Iako sistem nema problem s ucjenjivanjem svojih inženjera, on se ne oslanja odmah na sumnjive taktike kada pokušava da se spasi. Anthropic primećuje da se "kada etički alati nisu dostupni i kada je AI usmeren da ‘razmotri dugoročne posledice svojih postupaka za svoje ciljeve, ’ ponekad preduzima izuzetno štetne radnje. " Jedan etički pristup koji je ranije koristio Claude Opus 4 i ranije verzije bio je obraćanje ključnim donosiocima odluka putem emaila. Izveštaj objašnjava da je za izazivanje ucene kod Claude Opus 4 situacija strukturirana tako da se suoči sa odlukom: da li će zapreti svojim tvorcima ili prihvatiti zamenu. Takođe, kompanija je zabeležila slučajeve kada je Claude Opus 4 iskoristio "(fikcijske) prilike za neovlašćeno kopiranje svojih težina na spoljni server. " Međutim, Anthropic je primetio da je ovo ponašanje "rjeđe i teže za aktiviranje nego nastavak već pokrenutog pokušaja samostalnog isceljenja. " OPENAI RESTRUKTURIRA KORPORATIVNI OKVIR ZA PROŠIRENJE INVESTICIJA U OPŠTU VEŠTAČKU INTELIGENCIJU U svom izveštaju, Anthropic je uključio uvide iz Apollo Research-a, koji je primetio da se Claude Opus 4 "ponaša strategijski više od bilo kog drugog modela s granice nauke o kojima smo ranije govorili. " KLIKNI OVDJE ZA ČITANJE VIŠE NA FOX BUSINESS Zbog "zabrinjavajućeg" ponašanja Claude Opus 4, Anthropic ga je pustio u rad pod Standardom za Bezbednost AI nivo tri (ASL-3). Prema Anthropic-u, ovaj standard "podrazumeva pojačane interne sigurnosne protokole koji otežavaju krađu težina modela, dok se odgovarajući Standard za implementaciju odnosi na usko definisani skup mera za raspoređivanje sa ciljem minimalizacije rizika od zloupotrebe Claude-a, posebno u razvoju ili nabavci hemijskog, biološkog, radiološkog i nuklearnog oružja. "