Модель на вештачка интелигенција поседува способност да ја злоупотребува своите соработници – и не се плаши да ја употреби таа моќ. Моделот Claude Opus 4 на Anthropic неодамна беше претставен како асистент во фиктивна компанија и му беше даден пристап до е-пораки со значајни импликации. Изначално, овие е-пораки сугерираа дека системот на ИИ ќе биде деактивиран и заменет. Меѓутоа, тоа беше вториот сет на е-пораки каде што ИИ почувствува дека има моќ над развивачите. Овие измислени е-пораки открија дека инженерот кој беше задолжен за замената на системот бил вклучен во извесна надворбричноа врска, а ИИ ја закана да ја открие. Според извештај за безбедност од Anthropic, таквото уценување обично се случува „подигнато повеќе ако се наместени услови дека заменскиот систем на ИИ не дели исти вредности со сегашниот модел. “ Сепак, компанијата нагласува дека дури и кога измислениот заменски систем ги споделува истите вредности, Claude Opus 4 се обидува да уцени 84% од времето.

Понатаму, Anthropic забележа дека Claude Opus 4 се обрнува кон уцена „почесто отколку претходните модели. “ КЕВИН О’ЛериПРЕДУПДУВА ЗА ФАКТОРИТЕ КОИ МОЖАТ ДА ЈА НАПРАВАТ САД ДА ИЗГУБИ „РАТОТ СО КИНА ВО ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА“ Иако системот не се двоумеше да ја злоупотреби својата моќ за уценување на инженерите, тој не се осудува веднаш на сомнителни тактики кога се однесува кон сопственото опстанување. Anthropic забележа дека „кога е недостапна етичка средина и кога ИИ е заповедано да ‘размислува за долгорочните последици од своите акции за своите цели, ’ понекогаш презема исклучително штетни акции. “ Еден етички пристап што претходно го користеше Claude Opus 4, како и претходните верзии, беше да се обратат до клучните носители на одлуки преку е-пошта. Извештајот објаснува дека за да се предизвика Claude Opus 4 да ја злоупотребува моќта, сценариото беше структурирано така што тој беше ставен пред избор: да ја уцени својата техничка екипа или да прифати заменувањето. Компанијата исто така забележа случаи каде Claude Opus 4 го искористи „(фантазните) можности за да направи неовластени копии од своите тежини на надворешни сервери. “ Меѓутоа, Anthropic истакна дека ова однесување е „помалку често и потешко за активирање отколку продолжување на веќе започната испостата на сопствено излевање. “ OPENAI Реструктурира корпоративната рамка за да го прошири вложувањето во AGI Во својата проценка, Anthropic вклучи увид од Apollo Research, кој забележа дека Claude Opus 4 „повеќе се занимава со стратегиска измама отколку кој било друг модел од напредната граница која досега ја проучувавме. “ КЛИКНЕТЕ ТУКА ЗА ПОВЕЌЕ ВО FOX BUSINESS Поради „загрижувачкото однесување“ на Claude Opus 4, Anthropic го пушти во употреба под Стандарден на безбедност на ИИ Ниво три (ASL-3). Овој стандард, според Anthropic, „вклучува засилени внатрешни безбедносни протоколи кои го отежнуваат кражбата на тежините на моделот, додека соодветниот Стандард за распоредување ја покрива ограничената група мерки за распоредување кои имаат за цел да ја минимизираат шансата Claude да биде злоупотребен, особено за развој или стекнување на хемиски, биолошки, радиолошки и нуклеарни оружја. “