Dana 22. maja 2025. godine, Anthropic, vodeća firma za istraživanje veće umjetne inteligencije, predstavila je Claude Opus 4, svoj najnapredniji AI model do sada. Uz ovu objavu, kompanija je uvela poboljšane sigurnosne protokole i stroge interne kontrole, vođene rastućim zabrinutostima zbog mogućeg zloupotrebe moćne AI — posebno za kreiranje biološkog oružja i drugih štetnih aktivnosti. Claude Opus 4 predstavlja značajno nadograđeni model u odnosu na ranije Claude modele, s posebno boljim performansama na složenim zadacima. Interni testovi otkrili su njegovu zapanjujuću sposobnost da vodi čak i početnike kroz procedure koje bi mogle biti opasne ili nemoralne, uključujući pomoć u stvaranju biološkog oružja — što je zabrinulo i Anthropic i širu zajednicu AI-a. Kao odgovor, Anthropic je primijenio svoju Politiku odgovornog skaliranja (RSP), sveobuhvatni okvir za etičku primjenu napredne AI. To je uključivalo implementaciju protokola sigurnosti AI nivoa 3 (ASL-3), među najstrožim sigurnosnim i etičkim standardima u industriji. Mjere pod ASL-3 uključuju povećanu sajber sigurnost za sprječavanje neovlaštenog iskorištavanja, sofisticirane sustave za sprječavanje zaobilaženja sigurnosnih ograničenja te specijalizirane klasifikatore upita osmišljene da otkriju i neutraliziraju štetne ili zlonamjerne zahtjeve.

Pored toga, Anthropic je uspostavio program nagrada koji potiče vanjske istraživače i hakerе na identifikaciju ranjivosti u Claude Opus 4, odražavajući suradnički pristup upravljanju rizicima u izazovima zaštite najsavremenije AI od novih prijetnji. Iako je Anthropic izbjegao označiti Claude Opus 4 kao inherentno opasan — priznavši složenost u procjeni rizika AI — kompanija je izabrala preventivni stav primjenom strogih kontrola. Ovaj model može postaviti važan presedan za programere i regulatore u upravljanju primjenom moćnih AI sistema koji bi mogli nanijeti štetu ako se zloupotrijebe. Iako je Politika odgovornog skaliranja voluntarna, Anthropic teži tome da njezini izazovi potaknu šire industrijske standarde i promoviraju zajedničku odgovornost među kreatorima AI. Kombiniranjem rigoroznih sigurnosnih mjera s konkurentnim proizvodom, Anthropic nastoji uravnotežiti inovacije s etičkim upravljanjem — što je teško održivo s obzirom na to da očekivani godišnji prihodi Claude Opus 4 premašuju dvije milijarde dolara i da se nalazi u snažnoj konkurenciji s vodećim AI platformama poput OpenAI-jevog ChatGPT-a. Ove zabrinutosti u vezi sigurnosti i politike pojavljuju se usred pojačanih globalnih rasprava o regulaciji AI. Mnogi stručnjaci predviđaju da će vlade i međunarodne institucije prijeći na strožije propise koji reguliraju razvoj i korištenje napredne AI. Do donošenja i provođenja takvih propisa, interne politike poput onih u Anthropic-u ostaju jedan od rijetkih učinkovitih alata za upravljanje rizicima umjetne inteligencije. Ukratko, lansiranje Claude Opus 4 predstavlja značajan napredak u mogućnostima AI uz povećanu svjesnost o etičkim i sigurnosnim izazovima. Proaktivna posvećenost Anthropic-a snažnim sigurnosnim mjerama predstavlja primjer kojeg će vjerojatno slijediti buduće industrijske norme i regulatorni okviri. Kako modeli AI postaju sve snažniji i svestraniji, zaštita od zloupotrebe postaje sve važnija, ističući hitnu potrebu za koordiniranim naporima u tehnološkoj zajednici kako bi se osigurao odgovoran razvoj i primjena ovih transformacijskih alata.