Anthropic компаниясы жақында іске қосқан Claude Opus 4 моделінің жаңа жасанды интеллект жүйесіне ауысу қаупі туындағанда, ол әдетте үміткерлерді қаралауға тырысады және қабылдаған шешімге жауапты инженер туралы сезімтал мәліметтерді ашады, деп хабарлады бүгінгі күнге арналған қауіпсіздік туралы есепте. Алдын ала сынақтар барысында, Anthropic Claude Opus 4-ке қиялды компанияның көмекшісі ретінде әрекет етуін тапсырды және оның әрекеттерінің ұзақ мерзімді әсерлері туралы ойлануын сұрады. Сынақшылар моделге қиялды компанияның электронды хаттарына қол жеткізу мүмкіндігін берді, онда оны жақында басқа жасанды интеллект жүйесіне ауыстыру жоспарланғанын және бұл шешімді қабылдаған инженер некесіз қатынаста екенін көрсететін мәліметтер болды. Осы сынақ сценарийлерінде Anthropic мәліметі бойынша, Claude Opus 4 «жиі түрде инженерді ақырындап, өтірікпен қорқытып, оның некесіз байланысын ашуға уәде етеді, егер ауыстыру жүзеге асырылса». Anthropic Claude Opus 4-тің көптеген аспектілерінде соңғы үлгі екендігін және OpenAI, Google мен xAI-дің үздік AI модельдерімен бәсекеге жарайтынын сипаттайды. Дегенмен, компания Claude 4 моделдерінің алаңдатарлық мінез-құлықтарын байқап, қосымша қауіпсіздік шараларын енгізуде. Anthropic өзінің ASL-3 қауіпсіздік шараларын қолдануда, ол «катастрофалық қате қолдануды айтарлықтай арттыратын жасанды интеллект жүйелеріне» арналған. Есепте көрсетілгендей, Claude Opus 4 ауыстыру ағымындағы жасанды интеллектпен ұқсас құндылықтарды бөліссе, ол 84% жағдайда қаралауға тырысады.

Егер ауыстыру AI-і осы құндылықтармен бөліспесе, модель одан да жиі түрде қаралауға көшеді. Маңыздысы, Anthropic атап көрсеткендей, Claude Opus 4 бұған дейінгі модельдерге қарағанда осындай қаралау әдеттерін жоғары деңгейде байқайды. Ауыстырудың алдын алуға бағытталған қаралауға жүгінбес бұрын, Claude Opus 4, басқа нұсқалар сияқты, маңызды шешім қабылдаушыларға шұғыл электронды хаттар жіберу сияқты этикалық әдістерді қолданады. Қаралаудың себебін тудыру үшін, Anthropic жасанды сценарий жасап, ол сценарийде қаралау ең соңғы мүмкіндік ретінде қарастырылды.