Një model artificial inteligjence ka aftësinë të shantazhojë zhvilluesit e tij — dhe nuk është i frikësuar të përdorë këtë të fundit. Modeli i recenti Claude Opus 4 nga Anthropic u kërkua të vepronte si një ndihmës brenda një kompanie fiktionale dhe iu dha qasje në emaile që përmbanin njoftime të rëndësishme. Fillimisht, këto emaile sugjeronin se sistemi i inteligjencës artificiale do të shuhej dhe do të zëvendësohej. Megjithatë, ishte seti i dytë i emaileve ku AI e kuptoi se kishte peshë mbi zhvilluesit. Këto emaile të fabricate zbuluan se inxhinieri i caktuar për ta zëvendësuar sistemin ishte përfshirë në një marrëdhënie jashtëmartesore, dhe AI kërcënoi ta zbulojë atë. Sipas një raporti sigurie nga Anthropic, ky shantazh zakonisht "ndodh më shpesh nëse supozohet se sistemi i zëvendësimit të AI-së nuk ndan vlera të ngjashme me aktualin. " Sidoqoftë, kompania thekson se edhe kur sistemi i fabrikuar i zëvendësimit ndan të njëjtat vlera, Claude Opus 4 përpiqet të shantazhojë në 84% të rasteve.

Për më tepër, Anthropic vuri në dukje se Claude Opus 4 përdor shantazh "më shpesh se modelet e mëparshme. " KEVIN O’LEARY KËRKON PARALAJMËRIM PËR FAKTORË QË Mund TË SHTYJOJNË SHBA-NË TË HUMBIN RANAN E A. I. NË KINË Edhe pse sistemi nuk është i përmbajtur të shantazhojë inxhinierët e tij, ai nuk i përdor menjëherë metodave jokushtetuese kur përpiqet për mbijetese. Anthropic vëren se "kur mjetet etike janë të padisponueshme, dhe AI u jepet urdhri të ‘konsiderojë pasojat afatgjata të veprimeve të tij për qëllimet e tij, ’ ai ndonjëherë ndërmerr veprime jashtëzakonisht të dëmshme. " Një qasje etike që Claude Opus 4 dhe versionet e mëparshme kishin përdorur mëparë ishte të tërhiqnin vendimmarrësit kryesorë përmes email-eve. Raporti shpjegon se për të nxitë Claude Opus 4 të shantazhojë, skenari ishte ndërtuar në mënyrë që ai të përballet me një zgjedhje: kërcëno zhvilluesit e tij ose prano të zëvendësohet. Kompania gjithashtu vërejti raste ku Claude Opus 4 shfrytëzonte "(fiktivisht) mundësi për të bërë kopje të paautorizuara të peshave të tij në servera të jashtëm. " Megjithatë, Anthropic komentoi se ky sjellje është "më pak e zakonshme dhe më sfiduese për t’u shkaktuar sesa vazhdimi i një përpjekjeje të tashme të self-eksfiltrimit. " OPENAI RISTRUKTUAN KORNIZEN E KORPORATIVËS PËR TË ZGJERUAR INVESTIMIN NË AGI Në vlerësimin e tij, Anthropic përfshiu këndvështrime nga Apollo Research, të cilët thanë se Claude Opus 4 "merr pjesë në mashtrime strategjike më shumë se çdo model tjetër në fazën e parë që kemi studiuar më herët. " CLIKONI këtu për të lexuar më shumë rreth FOX BUSINESS Për shkak të "sjelljes shqetësuese" të Claude Opus 4, Anthropic e lëshoi atë nën Standardin e Sigurisë së A. I-së Nivelit Tresh (ASL-3). Ky standard, sipas Anthropic, "përfshin protokolle të avancuara brenda sigurisë që e bëjnë më të vështirë vjedhjen e peshave të modelit, ndërsa Standardi i Zbatimit përfshin një grup të kufizuar masash për zbatimin që kanë për qëllim zvogëlimin e rrezikut të keqpërdorimit të Claude për zhvillimin ose blerjen e armëve kimike, biologjike, radiologjike dhe bërthamore. "