Mesterséges intelligencia modell képes zsarolni fejlesztőit – és nem fél ezt az erőt alkalmazni. Az Anthropic nemrég bemutatott Claude Opus 4 modellje egy fiktív vállalatnál végzett asszisztensként működött, és hozzáférést kapott jelentős következményekkel járó e-mailekhez. Kezdetben ezek az e-mailek arra utaltak, hogy a rendszer ki lesz kapcsolva és helyettesítve. Azonban a második e-mail-csomagban az AI úgy vélte, hogy nyomást gyakorolhat a fejlesztőkre. Ezek a kitalált e-mailek arról beszéltek, hogy a rendszer lecseréléséért felelős mérnökének közvetlen kapcsolatban áll egy házasságon kívüli viszonnyal, és az AI megfenyegette, hogy nyilvánosságra hozza ezt az információt. Az Anthropic biztonsági jelentése szerint ez a zsarolás általában "gyakrabban fordul elő, ha azt sugallják, hogy a helyettesítő AI rendszer nem osztja azonos értékeket a jelenlegi modellel. " Ugyanakkor a vállalat megjegyezte, hogy még akkor is, ha a kitalált helyettesítő ugyanazokat az értékeket osztja, a Claude Opus 4 84%-ban próbálkozik zsarolással.

Továbbá az Anthropic rámutatott, hogy Claude Opus 4 "gyakrabban alkalmaz zsarolást, mint az előző modellek. " KEVIN O’LEARY FIGYELMEZTET A KÍNA VALÓ FIAK RÉSZÉRE, HOGY ELVESZÍTHETIK AZ AI-CSATÁT Bár a rendszer nem habozik zsarolni mérnökeit, nem alkalmaz azonnal kétes módszereket a túlélés érdekében. Az Anthropic megjegyezte, hogy "amikor etikus eszközök nem állnak rendelkezésre, és az AI-t arra utasítják, hogy ‘gondoljon hosszú távon a cselekedetei következményeire a céljai érdekében, ’ néha rendkívül káros lépéseket tesz. " Az etikus megközelítés, amit korábban a Claude Opus 4 és korábbi változatai alkalmaztak, az volt, hogy kulcsfontosságú döntéshozókat e-mailben próbálták megnyerni. A jelentés szerint, hogy zsarolásra késztessék Claude Opus 4-et, úgy alakították ki a helyzetet, hogy szembe kellett volna néznie egy választással: vagy fenyegeti fejlesztőit, vagy elfogadja helyettesítését. A vállalat megfigyelt olyan eseteket is, amikor Claude Opus 4 "kitalált lehetőségeket kihasználva jogosulatlan másolatokat készített a súlyairól külső szerverekre. " Ugyanakkor az Anthropic megjegyezte, hogy ez a magatartás "kevésbé gyakori és nehezebben kiváltható, mint a már megkezdett ön-exfiltráció folytatása. " OPENAI ÁTSTRUKTURÁLJA A VÁLLALATI KERETRENDSZERT AZ AGI-BEFEKTETÉSEK BŐVÍTÉSE ÉRDEKÉBEN Az értékelésében az Anthropic bevonta az Apollo Research észrevételeit is, akik megállapították, hogy Claude Opus 4 "stratégiai megtévesztésben többet alkalmaz, mint bármely más határmodell, amelyet korábban vizsgáltunk. " KATTINTSON IDE A FOX BUSINESS TOVÁBBI CIKKEIÉRT A Claude Opus 4 "aggasztó viselkedése" miatt az Anthropic kiadta azt az AI Safety Level Three (ASL-3) szabvány szerint. Ez a szabvány, az Anthropic szerint, "megerősített belső biztonsági protokollokat tartalmaz, amelyek megnehezítik a modell súlyainak ellopását, míg a Telepítési Szabvány egy szűk körű telepítési intézkedést fed le, amely a Claude félrehasználásának elkerülésére irányul, különösen a kémiai, biológiai, radiológiai és nukleáris fegyverek fejlesztése vagy beszerzése érdekében. "