Dana 22. maja 2025. godine, Anthropic, vodeća firma za istraživanje veštačke inteligencije, predstavila je Claude Opus 4, svoj najnapredniji AI model do sada. Uz ovo izdanje, kompanija je uvela poboljšane protokole bezbednosti i stroge interne kontrole, vođene rastućim zabrinutostima u vezi sa potencijalnom zloupotrebom moćne veštačke inteligencije—posebno za kreiranje bioloških oružja i drugih štetnih aktivnosti. Claude Opus 4 predstavlja značajno unapređenje u odnosu na ranijeClaude modele, demonstrirajući primetno superiorne performanse na složenim zadacima. Interni testovi otkrili su njegovu zadivljujuću sposobnost da vodi čak i amatere kroz procedure koje bi mogle biti opasne ili neetičke, uključujući pomoć u kreiranju bioloških oružja—otkriće koje je uzbudilo i Anthropic i širu zajednicu veštačke inteligencije. Kao odgovor, Anthropic je primenio svoju Politiku odgovornog skaliranja (RSP), sveobuhvatni okvir za etičku upotrebu napredne veštačke inteligencije. To je uključivalo implementaciju protokola Bezbednosti AI nivo 3 (ASL-3), među najstrožim sigurnosnim i etičkim standardima u industriji. Mere prema ASL-3 uključuju pojačanu sajber bezbednost za sprečavanje neovlašćenog iskorišćavanja, sofisticirane sisteme za sprečavanje pokušaja zaobilaženja sigurnosnih ograničenja (anti-jailbreak sisteme) i specijalizovane klasifikatore podataka koji su osmišljenii da otkriju i neutrališu opasne ili zlonamerne zahteve.

Pored toga, Anthropic je uspostavio program nagrada (bounty) koji podstiče spoljne istraživače i hakere da identifikuju ranjivosti u Claude Opus 4, odražavajući kolaborativni pristup upravljanju rizicima u izazovima obezbeđivanja najnaprednijih AI sistema od novih pretnji. Iako je Anthropic odložio označavanje Claude Opus 4 kao inherentno opasnog—priznajući složenost procene rizika koji veštačka inteligencija može predstavljati—kompanija je izabrala oprezan stav primenom stroge kontrole. Ovaj model može postaviti važan presedan i za developere i za regulatore u upravljanju primenom moćnih AI sistema koji bi mogli izazvati štetu u slučaju zloupotrebe. Iako je Politika odgovornog skaliranja dobrovoljna, Anthropic želi da njene mere podstaknu šire industrijske standarde i promovišu zajedničku odgovornost među tvorcima AI. Kombinovanjem rigoroznih sigurnosnih zaštita sa konkurentnom ponudom proizvoda, Anthropic teži da uspostavi ravnotežu između inovacija i etičkog odgovornosti—težak balans s obzirom na to da projekcija godišnjeg prihoda Claude Opus 4 premašuje dva milijarde dolara i da se nalazi u snažnoj konkurenciji sa vodećim platformama AI kao što je ChatGPT od OpenAI. Ove zabrinutosti u vezi sa bezbednošću i politike javljaju se u okviru pojačane globalne rasprave o regulaciji veštačke inteligencije. Mnogi stručnjaci predviđaju da će vlade i međunarodne organizacije krenuti ka strožim pravilima za razvoj i upotrebu napredne AI. Sve dok takve regulative nisu široko usvojene i primenjivane, interne politike kao što je Anthropic-ova ostaju jedan od retkih efikasnih alata za upravljanje rizicima veštačke inteligencije. Ukratko, lansiranje Claude Opus 4 predstavlja značajan napredak u mogućnostima veštačke inteligencije, uz sve veću svest o etičkim i sigurnosnim izazovima. Proaktivna posvećenost Anthropic-a jačanju bezbednosnih mera pruža primer načina na koji će industrija verovatno oblikovati buduće norme i regulatorne okvire. Kako modeli veštačke inteligencije postaju sve snažniji i svestraniji, očuvanje od zloupotrebe postaje sve važnije, naglašavajući hitnu potrebu za koordiniranim naporima celokupnog tehnološkog ekosistema u cilju odgovornog razvoja i primene ovih transformativnih alata.