El 22 de maig de 2025, Anthropic, una de les principals empreses de recerca en IA, va presentar Claude Opus 4, el seu model d’IA més avançat fins ara. Acompanyant aquest llançament, l’empresa va introduir protocols de seguretat millorats i controls interns estrictes, impulsats per la creixent preocupació pel possible mal ús d’una IA potent, especialment per a la creació d’armes biològiques i altres activitats nocives. Claude Opus 4 representa una gran actualització respecte als models anteriors de Claude, demostrat una performance notablement superior en tasques complexes. Els tests interns van descobrir la seva sorprenent capacitat per a guiar fins i tot a principiants a través de procediments que podrien ser perillosos o èticament qüestionables, incloent-hi ajudar en la creació d’armes biològiques—aquesta troballa va alarmar tant Anthropic com la comunitat d’IA en general. En resposta, Anthropic va aplicar la seva Política de Escalament Responsables (RSP), un marc complet per a l’ús ètic de l’IA avançada. Això incloïa la implementació de protocols de Seguretat en IA Nivell 3 (ASL-3), entre els estàndards de seguretat i ètica més rigorosos de la indústria. Les mesures sota l’ASL-3 inclouen una ciberseguretat millorada per evitar un ús no autoritzat, sistemes sofisticats anti-bypass per bloquejar intents de saltar-se les restriccions de seguretat, i classificadors especialitzats per a detectar i neutralitzar consultes nocives o malicioses. A més, Anthropic va establir un programa de recompenses que incentiva a investigadors externs i hackers a identificar vulnerabilitats en Claude Opus 4, reflectint un enfocament col·laboratiu per a gestionar els riscos en un moment en què cal protegir la IA de frontera davant de possibles amenaces emergents. Tot i que Anthropic va evitar qualificar Claude Opus 4 com a perillós de manera inherent—reconeixent la complexitat d’avaluar els riscos de la IA—la companyia va optar per una postura de precaució i va aplicar controls estrictes.

Aquest model podria establir un precedent imprescindible tant per a desenvolupadors com per a reguladors en la gestió del desplegament de sistemes d’IA potents que podrien causar danys si són mal utilitzats. Encara que la Política d’Escalament Responsables sigui voluntària, Anthropic busca que les seves mesures serveixin com a catalitzador per a l’establiment d’estàndards més amplis en la indústria i promouen la responsabilitat compartida entre els creadors d’IA. Combinen mesures de seguretat rigoroses amb una oferta de producte competitiva, amb l’objectiu de trobar un equilibri entre innovació i responsabilitat ètica—un repte difícil considerant que els ingressos anuals previstos de Claude Opus 4 superen els dos mil milions de dòlars i la seva forta competència amb plataformes d’IA líders com ChatGPT d’OpenAI. Aquestes preocupacions de seguretat i polítiques sorgeixen enmig de discussions globals cada cop més intenses sobre la regulació de la IA. Molts experts preveuen que governs i organismes internacionals avancin cap a normes més estrictes per a l’desenvolupament i ús de la IA avançada. Fins que aquestes regulacions no siguin àmpliament aprovades i aplicades, polítiques internes com la d’Anthropic continuaran sent entre les poques eines eficaços per a gestionar els riscos associats a la IA. En resum, el llançament de Claude Opus 4 suposa un avanç significatiu en les capacitats de l’IA, acompanyat d’una major consciència sobre els desafiaments ètics i de seguretat. L’enfocament proactiu d’Anthropic cap a mesures de seguretat robustes exemplifica una estratègia que probablement modelarà les normes futures de la indústria i els marcs reguladors. A mesura que els models d’IA es tornin cada cop més potents i versàtils, la protecció contra el mal ús serà encara més crucial, fent evident la necessitat urgent d’unes accions coordinades a tot l’ecosistema tecnològic per garantir un desenvolupament i desplegament responsables d’aquestes eines transformadores.