Dňa 22. mája 2025 predstavil Anthropic, vedúca spoločnosť v oblasti výskumu umelej inteligencie, Claude Opus 4, svoj najpokročilejší model AI doteraz. Spolu s týmto vydaním spoločnosť predstavila vylepšené bezpečnostné protokoly a prísne vnútorné kontroly, inšpirované rastúcimi obavami z možného zneužitia mocnej AI – najmä na tvorbu biologických zbraní a iných škodlivých aktivít. Claude Opus 4 predstavuje výrazný krok vpred oproti skorším modelom Claude, pričom vykazuje značne lepší výkon pri zložitých úlohách. Interné testy odhalili jeho ohromujúcu schopnosť viesť aj nováčikov pri vykonávaní postupov, ktoré môžu byť nebezpečné alebo nemorálne, vrátane pomoci pri vytváraní biologických zbraní – čo vyvolalo obavy nielen u Anthropic, ale aj v širšej komunite AI. Ako reakciu spoločnosť zaviedla svoju Politiku zodpovedného rozvoja (RSP), komplexný rámec pre etické nasadzovanie pokročilej AI. To zahŕňalo implementáciu protokolov úrovne bezpečnosti AI Level 3 (ASL-3), medzi najprísnejšími bezpečnostnými a etickými štandardmi v odvetví. Opatrenia podľa ASL-3 zahŕňajú zvýšenú kybernetickú bezpečnosť na zabránenie neoprávnenému zneužitiu, sofistikované systémy proti jailbreaku na zamedzenie pokusom o obídenie bezpečnostných obmedzení a špecializované klasifikátory podnetov, určené na detekciu a neutralizáciu škodlivých alebo zlomyseľných dopytov. Okrem toho Anthropic založil odmeňovací program, ktorý motivuje externých výskumníkov a hackerov na identifikáciu zraniteľností v Claude Opus 4, čo odráža spolupracujúci prístup k riadeniu rizík pri zabezpečovaní špičkovej AI od narastajúcich hrozieb. Hoci Anthropic nevyslovil, že Claude Opus 4 je inherentne nebezpečný – pripúšťajúc komplexnosť hodnotenia rizík AI – spoločnosť zvolila opatrný prístup a zaviedla prísne kontroly.

Tento model môže nastaviť dôležitý precedens pre vývojárov aj regulátorov pri spravovaní nasadzovania mocnej AI, ktorá by mohla spôsobovať škody pri zneužití. Hoci Politika zodpovedného rozvoja je dobrovoľná, Anthropic si kladie za cieľ, aby jej opatrenia podnietili širšie priemyselné štandardy a podporovali spoločnú zodpovednosť medzi tvorcami AI. Spojením prísnych bezpečnostných opatrení a konkurencieschopnej ponuky produktu sa Anthropic snaží o rovnováhu medzi inováciami a etickým riadením – čo je zložité, keďže očakávané ročné príjmy Claude Opus 4 presahujú dve miliardy dolárov a spoločnosť čelí silnej konkurencii od popredných platforiem AI, ako je OpenAI ChatGPT. Tieto bezpečnostné obavy a politiky prichádzajú v čase rastúcich diskusií na globálnej úrovni o regulácii AI. Mnoho expertov predpovedá, že vlády a medzinárodné orgány budú smerovať k prísnejším pravidlám týkajúcim sa vývoja a používania pokročilej AI. Až dokiaľ takéto predpisy nebudú široko prijaté a vymáhané, vnútorné politiky ako politika Anthropic zostávajú jednými z mála efektívnych nástrojov na riadenie rizík spojených s AI. V súhrne, spustenie Claude Opus 4 predstavuje významný pokrok v schopnostiach AI spolu s zvýšenou povedavosťou o etických a bezpečnostných výzvach. Proaktívne odhodlanie Anthropic zabezpečiť robustné bezpečnostné opatrenia predstavuje prístup, ktorý bude pravdepodobne formovať budúce normy v odvetví a regulačné rámce. Ako sa modely AI stávajú čoraz mocnejšími a všestrannejšími, ochrana pred zneužitím je čoraz dôležitejšia, čo zdôrazňuje naliehavú potrebu koordinovanej spolupráce v technologickej ekosystéme na zabezpečenie zodpovedného vývoja a nasadzovania týchto transformačných nástrojov.