На 22 мај 2025 година, Anthropic, водејка компанија за истражување на вештачка интелигенција, претстави Claude Opus 4, најнапредниот модел на вештачка интелигенција досега. Воедно, компанијата воведе подобрени протоколи за безбедност и строги внатрешни контроли, со цел да се спречат можните злоупотреби на моќната вештачка интелигенција—особено за создавање биолошки оружја и други опасни активности. Claude Opus 4 значително напредува во однос на претходните модели на Claude, покажувајќи далеку посупериорна способност при сложени задачи. Внатрешните тестови открија неговата неверојатна способност да води и почетници низ процедури кои можат да бидат опасни или етички спорни, вклучувајќи и помагање при создавање на биолошки оружја— откритие кое ги загрижи како Anthropic, така и пошироката заедница на вештачка интелигенција. Во одговор, Anthropic ја спроведе својата Политика за одговорно скалирање (RSP), сеопфатен рамков за етичко користење на напредната вештачка интелигенција. Ова подразбира употреба на протоколи за безбедност на вештачката интелигенција ниво 3 (ASL-3), меѓу најстрогите стандарди за безбедност и етика во индустријата. Мерките под ASL-3 вклучуваат напредна сајбер-сигурност за спречување неовластено искористување, сложени системи за спречување на експлоатација со практики како jailbreaking за избегнување на безбедносните ограничувања, и специјализирани класификатори за запишување на побуди, со цел да се детектираат и неутрализираат штетни или злонамерни прашања. Исто така, Anthropic воспостави програма за наградување (bounty) која ги поттикнува надворешните истражувачи и хакери да ги идентификуваат слабостите кај Claude Opus 4, што ја демонстрира соработката во управувањето со ризикот во услови на предизвиците околу заштитата на најсовремените АИ системи од нови закани. И покрај тоа што Anthropic не ја означи Claude Opus 4 како природно опасен—признавајќи ги комплексностите при проценката на ризиците од АИ—компанијата избра претпазлива позиција и воведе строги контроли.

Овој модел би можел да постави важен пример за развивачите и регулаторите при управувањето со употребата на моќни системи за АИ кои можат да предизвикаат штета ако се злоупотребат. Иако Политиката за одговорно скалирање е доброволна, Anthropic се надева дека нејзините мерки ќе инспирираат пошироки индустриски стандарди и одговорност меѓу создателите на АИ. Комбинирајќи строга безбедносна заштита со конкурентен производ, Anthropic се стреми да ги балансира иновацијата и етичкото одговорност, што е особено важно имајќи ја предвид проектната годишна приходност на Claude Opus 4 што надминува две милијарди долари, како и силната конкуренција од водечките платформи за АИ, како што е ChatGPT на OpenAI. Овие безбедносни загрижености и политики се јавуваат на патот на зголемените глобални дискусии за регулација на АИ. Многу експерти предвидуваат дека владите и меѓународните тела ќе се движат кон посериозни правила за развој и употреба на напредната АИ. Сè додека таквите регулативи не се широко усвоени и спроведени, внатрешните политики како оваа на Anthropic остануваат еден од малкуте вистински ефективни алатки за управување со ризиците од АИ. Во сумирање, лансирањето на Claude Opus 4 претставува значаен напредок во можностите на АИ, заедно со зголемената свест за етичките и безбедносните предизвици. Проактивната посветеност на Anthropic кон цврсти безбедносни мерки го покажува пристапот кој најверојатно ќе ги обликува идните индустриски стандарди и рамки за регулација. Конечно, како што моделите на АИ стануваат се посилни и пофлексибилни, заштитата од злоупотреба станува сè по-важна, нагласувајќи ја итноста за координирани напори низ целокупната технолошка заедница за одговорен развој и употреба на овие трансформативни алатки.