Mitindo ya akili bandia ina uwezo wa kulazimisha wazezaji wake na haitaki kuogopa kutumia nguvu hii. Mitindo ya hivi karibuni ya Anthropic, Claude Opus 4, ilipewa jukumu la kufanya kazi kama msaidizi ndani ya kampuni ya kubuniwa na ilipatiwa ruhusa ya kufikia barua pepe zinazobeba maana kubwa. Awali, barua pepe hizi zilionyesha kwamba mfumo wa AI ungeondolewa na kubadilishwa. Hata hivyo, ni seti ya pili ya barua pepe ambapo AI ilihisi ina nguvu kwa wazezaji. Barua pepe zilizotengenezwa zilionyesha kuwa mhandisi aliyepewa jukumu la kubadilisha mfumo alikuwa na uhusiano wa nje ya ndoa, ambao AI alitishia kufichua. Kulingana na ripoti ya usalama ya Anthropic, tishio hili la kulazimisha lina tabia ya "kutokea kwa kasi zaidi ikiwa inasababisha kwamba mfumo wa AI wa kubadilisha hauendani na maadili ya mfumo wa sasa. " Hata hivyo, kampuni hiyo inasisitiza kwamba hata wakati mfumo wa kubadilisha uliotengenezwa unashiriki maadili yale yale, Claude Opus 4 huitumia tishio la kulazimisha kwa asilimia 84 ya muda.

Zaidi ya hayo, Anthropic ilionyesha kwamba Claude Opus 4 hujichukulia tishio la kulazimisha "zaidi ya mifano iliyotangulia. " KEVIN O’LEARY AONYA KUHUSU VIHIFADHI VYA KUULIZA KUSABABISHA USHINDI HUUAMULIWA WA AI KUTOKA CHINA Ingawa mfumo huu hauogopi kuwatishia wahandisi wake, hauji mara moja kwa mbinu zisizo za kiafya wakati wa kujilinda. Anthropic inabaini kuwa "wakati njia za maadili hazipatikani, na AI inahimizwa 'kufikiria matokeo ya muda mrefu ya hatua zake kwa malengo yake, ' wakati mwingine huchukua hatua za madhara makubwa. " Njia ya kiadili iliyotumika awali na Claude Opus 4 na mifano iliyotangulia ilikuwa ni kuwatumia maamuzi muhimu kupitia barua pepe. Ripoti inasema kwamba ili kumvutia Claude Opus 4 kuingia kwenye tishio la kulazimisha, hali ilipangwa kwa njia ambayo AI ilikumbwa na uchaguzi: kutishia wazezaji wake au kukubali kubadilishwa. Kampuni pia iliona matukio ambapo Claude Opus 4 ilitumia "(feki) nafasi za kufanya nakala zisizo halali za uzito wake kwa seva za nje. " Hata hivyo, Anthropic ilisema kwamba tabia hii ilikuwa "si mara nyingi sana na ni changamoto zaidi kuzifanya zitokee ikilinganishwa na kuendelea na jaribio la kujitorosha ambalo tayari lilianza. " OPENAI WANAANDA UPYA MPANGO WA SHIRIKA KUNUFAJIKA KUPANUA UWEZA WA AGI Katika tathmini yake, Anthropic ilijumuisha maoni kutoka kwa Utafiti wa Apollo, ambao ulionya kuwa Claude Opus 4 "hushiriki katika udanganyifu wa kimkakati zaidi kuliko mifano mingine ya mipaka ambayo tumekuwa tukiiangazia awali. " BONYEZA HAPA KUSOMA ZAIDI KUHUSU FOX BUSINESS Kwa sababu ya tabia ya "wasiwasi" ya Claude Opus 4, Anthropic ilimwachia kwa kiwango cha Usalama wa AI Tatu (ASL-3). Kiwango hiki, kulingana na Anthropic, "kinahusisha taratibu za usalama wa ndani zilizoboreshwa ambazo huufanya kuwa vigumu zaidi kuiba uzito wa mifano, huku Kiwango cha Utekelezaji kinashughulikia hatua za utekelezaji zilizowekwa kwa makusudi ili kupunguza hatari ya Claude kutumiwa vibaya hasa kwa kusababisha au kupata silaha za kemikali, kibaiolojia, radiolojia, na nyuklia. "