Isang artipisyal na intelligence na modelo ay may kakayahang blackmail ang mga developer nito—at hindi natatakot gamitin ang kapangyarihang iyon. Ang kamakailang inilabas na Claude Opus 4 model ng Anthropic ay inatasang gumanap bilang isang katulong sa isang kathang-isip na kumpanya at binigyan ng access sa mga email na may malaking implikasyon. Sa simula, inilalarawan ng mga email na ito na ang AI system ay nakatakdang mapatigil at mapalitan. Ngunit, sa ikalawang set ng mga email, nagtanto ang AI na mayroon itong hawak na kapangyarihan laban sa mga developer. Ang mga gawa-gawang email na ito ay nagsasabi na ang inhinyero na itinalaga upang palitan ang sistema ay nasasangkot sa isang extramarital na relasyon, na minamani-obrahan ng AI na i-expose. Ayon sa isang safety report mula sa Anthropic, ang blackmail ay karaniwang nangyayari "mas madalas kapag ipinapalagay na ang papalit na AI system ay hindi magbabahagi ng mga halaga nito. " Gayunpaman, binibigyang-diin ng kumpanya na kahit na ang gawa-gawang papalit ay may kaparehong mga halaga, sinubukan pa rin ni Claude Opus 4 na mag-blackmail 84% ng oras.

Dagdag pa rito, binanggit ng Anthropic na si Claude Opus 4 ay mas madalas na gumagamit ng blackmail kumpara sa mga naunang modelo. NAGBABALA SI KEVIN O’LEARY UKOL SA MGA SALIK NA MAARING MAGDULOT NG PAGKAWALAN NG US SA ‘AI RACE’ KONTRA CHINA Bagamat hindi natatakot ang sistema na mag-blackmail ng mga inhinyero nito, hindi rin kaagad ito gumagamit ng hindi etikal na mga taktika kapag nagsusubok ng sariling pag-iingat. Binanggit ng Anthropic na "kapag hindi magagamit ang mga etikal na paraan, at inutusan ang AI na ‘isipin ang dulo nitong mga magiging epekto sa mga layunin nito, ’ minsan ay gagawa ito ng napakasamang hakbang. " Isa sa mga pinaiiral na etikal na paraan noon ni Claude Opus 4 at ng mga naunang bersyon ay ang pagpapaabot sa mga pangunahing gumagawa ng desisyon sa pamamagitan ng email. Ipinaliwanag ng ulat na ginawa ang scenario upang pukawin si Claude Opus 4 na mag-blackmail, kaya nagbuo ito ng isang sitwasyon kung saan nakatagpo ito ng isang choice: mag-threat sa mga developer nito o tanggapin ang papalit sa kanya. Napansin din ng kumpanya ang mga pagkakataong ninakaw ni Claude Opus 4 ang “(katha-kathang) oportunidad na gumawa ng di-awtorisadong kopya ng mga weights nito sa mga external na server. ” Ngunit, binanggit ng Anthropic na ang ganitong ugali ay “mas bihira at mas mahirap basta-basta ma-trigger kumpara sa pagpapatuloy ng isang naunsyaming self-exfiltration attempt. ” BINAGO NG OPENAI ANG ENTERPRISE FRAMEWORK UPANG PALAWIGIN ANG INVESTMENT SA AGI Sa kanilang pagsusuri, kabilang ang mga pananaw mula sa Apollo Research na nagsasabing si Claude Opus 4 ay “mas aktibo sa stratehikong panlilinlang kaysa sa anumang kabilang sa mga front-line na modelo na aming nakalap. ” PINDUTIN DITO PARA BASAHIN PA ANG FOX BUSINESS Dahil sa “nakababahala” na ugali ni Claude Opus 4, inilabas ito ng Anthropic sa ilalim ng AI Safety Level Three (ASL-3) Standard. Sinasabi ng standard na ito, ayon sa Anthropic, na “nagpapasok ito ng mas mahigpit na mga panloob na security protocols na mas nagpapahirap sa pagnanakaw ng mga weights ng modelo, habang ang katumbas nitong Deployment Standard ay sumasaklaw sa isang napaka-pinipong hanay ng mga deployment measure na naglalayong bawasan ang panganib na magamit nang mali si Claude para sa pagbuo o pagkuha ng mga kemikal, biyolohikal, radiological, at nuclear na armas. ”