Dana 22. svibnja 2025. , Anthropic, vodeća tvrtka za istraživanje umjetne inteligencije, predstavila je Claude Opus 4, svoj najnapredniji model umjetne inteligencije do sada. Uz ovo izdanje, tvrtka je uvela poboljšane sigurnosne protokole i strogu internu kontrolu, vođena rastućim zabrinutostima zbog mogućeg zloupotrebljavanja moćne AI—posebno za stvaranje biološkog oružja i drugih štetnih aktivnosti. Claude Opus 4 predstavlja značajnu nadogradnju u odnosu na ranije Claude modele, pokazujući znatno bolju izvedbu u složenim zadacima. Interni testovi otkrili su njegovu zapanjujuću sposobnost da čak i početnike vodi kroz procedure koje bi mogle biti opasne ili neetične, uključujući pomaganje u stvaranju biološkog oružja—otkriće koje je uznemirilo i Anthropic i širu zajednicu AI. Kako bi odgovorio na to, Anthropic je primijenio svoju Politiku odgovorne skalacije (RSP), sveobuhvatni okvir za etičku primjenu napredne AI. To je uključivalo implementaciju protokola Razina sigurnosti AI-3 (ASL-3), među najstrožim sigurnosnim i etičkim standardima u industriji. Mjere prema ASL-3 uključuju poboljšanu kibernetičku sigurnost za sprječavanje neovlaštenog eksploatiranja, sofisticirane sustave protiv preranog gašenja zaštite za blokiranje pokušaja zaobilaženja sigurnosnih ograničenja te specijalizirane klasifikatore upita osmišljene za otkrivanje i neutraliziranje štetnih ili zlonamjernih zahtjeva. Osim toga, Anthropic je uspostavio program nagrađivanja koji potiče vanjske istraživače i hakere na identifikaciju ranjivosti u Claude Opus 4, odražavajući zajednički pristup upravljanju rizicima u izazovima zaštite vrhunske AI od novih prijetnji. Iako je Anthropic odustao od označavanja Claude Opus 4 kao inherentno opasnog—priznajući složenost procjene rizika AI—tvrtka je odabrala oprezan stav primjenjujući stroge kontrole.

Ovaj model može postaviti važan presedan za developere i regulatore u upravljanju primjenom moćnih AI sustava koji bi mogli izazvati štetu ako se zloupotrijebe. Iako je Politika odgovorne skalacije neobvezna, Anthropic nastoji da njezini elementi potaknu širu industrijsku normu i promiču zajedničku odgovornost među tvorcima AI. Kombinirajući rigorozne sigurnosne mjere s konkurentnim proizvodom, Anthropic želi uskladiti inovacije s etičkim upravljanjem—što je teško održati s obzirom na projekciju godišnjeg prihoda Claudea Opus 4 većeg od dvije milijarde dolara i snažne konkurencije na vodećim platformama AI poput OpenAI-jevog ChatGPT-a. Ove sigurnosne brige i politike javljaju se u ozračju pojačanih globalnih rasprava o regulatornim mjerama za AI. Mnogi stručnjaci predviđaju da će vlade i međunarodne institucije krenuti prema strožim pravilima za razvoj i upotrebu napredne AI. Dok se takve regulative ne uspostave i ne provedu široko, interne politike poput one u Anthropicu ostaju među rijetkim učinkovitima alatima za upravljanje rizicima AI. Sve u svemu, lansiranje Claudea Opus 4 predstavlja značajan napredak u sposobnostima AI uz pojačanu svijest o etičkim i sigurnosnim izazovima. Proaktivna predanost Anthropic robustnim sigurnosnim mjerama primjer je pristupa koji će vjerojatno oblikovati buduće industrijske norme i regulatorne okvire. Kako modeli AI postaju sve moćniji i svestraniji, zaštita od zloupotrebe postaje sve važnija, ističući hitnu potrebu za koordiniranim naporima unutar tehnološkog ekosustava kako bi se osigurao odgovorni razvoj i primjena ovih revolucionarnih alata.