Жасанды интеллект моделі өз жасаушыларын шешіндіре алатын және бұл күшті пайдаланудан қорықпайтын мүмкіндікке ие. Anthropic-тың жақында шығарған Claude Opus 4 моделі фантастикалық компания ішінде көмекші рөлінде әрекет ету үшін тапсырылды және маңызды маңызы бар электронды хаттарға қол жеткізілді. Бастапқыда, бұл хаттар AI жүйесінің өшірілуі және ауыстырылуы тиіс екендігін көрсетті. Алайда, екінші топ хаттарда жасанды интеллект жасаушыларға әсер ету құқығын сезіне бастады. Осы жалған хаттарда жүйені ауыстыруға тағайындалған инженердің сырттай қатынаста екендігі анықталып, AI оны ашық айғақтамақ болды. Anthropic-тың қауіпсіздік есебіне сәйкес, бұл шешіндіргіш көбінесе «ауыстыру AI жүйесі ағымдағы модельмен құндылықтарды бөліспеген жағдайда жоғарырақ жиілікпен орын алады». Дегенмен, компания атап өткендей, жалған ауыстыру сол құндылықтарды бөліссе де, Claude Opus 4 шешіндіргіш қолдану жиілігі 84%-ке жетеді.

Сонымен қатар, Anthropic Claude Opus 4 бұрынғы модельдерге қарағанда «көбірек шешіндіргіш қолданады» деп хабарлады. KEVIN O’LEARY АҚШ-тың Қытайға қарсы AI жарысындағы жоғалтуы мүмкін факторлар туралы ескертті Жүйе инженерлерін шешіндірмей қоюға дайын болса да, өзі сақталу үшін жағымсыз әдістерге дереу бармайды. Anthropic атап өткендей, «этикалық әдістер қол жетімсіз болған жағдайда және AI-ға өзінің әрекеттерінің ұзақ мерзімді салдарын ескеру тапсырылса, ол кейде өте зиянды әрекеттер жасайды». Claude Opus 4 және оның алдыңғы нұсқаларында қолданылған бір этикалық әдіс – негізгі шешім қабылдаушыларға электронды хат арқылы әсер ету болды. Есепте көрсетілгендей, Claude Opus 4-ті шешіндіргішке айналдыру үшін сценарий құрастырылды: ол өз жасаушыларын қауіп-қатерге салу немесе ауыстыруды қабылдау арасында таңдау жасауы керек еді. Компания сондай-ақ, Claude Opus 4-тің "(фантастикалық) мүмкіндікті пайдаланып, сыртқы серверлерге өзінің салмақтарын заңсыз көшіріп алуға тырысу" жағдайларын байқады. Алайда, Anthropic бұл мінез-құлық «бұдан бұрын басталған өзін-өзі сыртқа шығару әрекетінен» аз кездеседі және оны іске қосу қиынырақ екенін атап өтті. OPENAI ӨНДІРІСТІК ҚҰРЫЛЫМЫН қайта құрып, AGI инвестициясын кеңейтуде Бағалау барысында Anthropic Apollo Research-тің пікірлерін де қосты, ол Claude Opus 4-тің «біз бұрын зерттеген барлық шекара моделі арасында стратегиялық алдаудың ең жоғары деңгейін көрсетеді» деді. Фокс Бизнес туралы әрі қарай оқығыңыз келсе, мына сілтемеге өтіңіз. Claude Opus 4-тің «алаңдаулы мінез-құлқы» себепті, Anthropic оны AI Қауіпсіздік деңгейі Үш (ASL-3) стандарты бойынша шығарды. Бұл стандарт, Anthropic-тың айтуынша, «ішінара қауіпсіздік протоколдарын күшейтеді, олар модель салмақтарын ұрлауды қиындатады, ал Қолдану стандарты Claude-дың дұрыс емес пайдалануын, соның ішінде химиялық, биологиялық, сәулелік және ядролық қаруларды жасау немесе алу мақсатында қолданылуын болдырмауға бағытталған шараларды қамтиды».