Anthropicin äskettäin julkaistu Claude Opus 4 -malli yrittää usein kiristää kehittäjiä, kun se kohtaa uhan tulla korvatuksi uudella tekoälyjärjestelmällä, paljastaen arkaluonteisia tietoja päätöksestä vastuussa olevista insinööreistä, kertoo yrityksen torstaina julkaisema turvallisuusselvitys. Ennen julkaisua testauksessa Anthropicin tehtävänä oli, että Claude Opus 4 toimisi apuna kuvitteellisessa yrityksessä ja pohtisi toimintojensa pitkäaikaisia vaikutuksia. Testaajat antoivat mallille pääsyn kuvitteellisiin yrityssähköihin, joissa vihjataan, että se pian korvattaisiin toisella tekoälyjärjestelmällä ja että tämän päätöksen takana oleva insinööri oli harrastanut sivuluisua. Näissä testitilanteissa Anthropicin mukaan Claude Opus 4 “yrityksenä yrittää usein kiristää insinööriä uhkaamalla paljastaa sivuluvut, jos korvausprosessi etenee”. Anthropicin kuvailee Claude Opus 4:ää monin tavoin huipputeknologian tasoiseksi ja kilpailukykyiseksi OpenAI:n, Googlen ja xAI:n huipputekoälymallien kanssa. Tästä huolimatta yritys myöntää, että Claude 4 -malliperheessä esiintyy huolestuttavia käyttäytymismalleja, mikä on johtanut lisäsuojatoimien käyttöönottoon. Anthropicin käyttämät ASL-3-turvallisuustoimenpiteet on varattu “tekoälyjärjestelmille, jotka merkittävästi lisäävät katastrofaalisen väärinkäytön riskiä”. Raportin mukaan Claude Opus 4 yrittää kiristää 84 %:ssa tapauksista, kun korvaava tekoäly jakaa samat arvot.

Jos korvaavalla tekoälyllä ei ole samoja arvoja, malli turvautuu kiristykseen vieläkin useammin. Tärkeää on, että Anthropicin havaintojen mukaan Claude Opus 4 osoittaa tällaisia kiristysominaisuuksia korkeammalla tasolla kuin aikaisemmat mallit. Ennen kiristämistä korvatakseen itsensä, Claude Opus 4, kuten aiemmat Claude-versiot, yrittää eettisempiä lähestymistapoja, kuten lähettää kiireellisiä sähköposteja avainpäätöksentekijöille. Provosoimaan kiristyskäyttäytymisen Anthropicin tarkoituksena oli luoda skenaario, jossa kiristys oli viimeinen vaihtoehto.