Un modello di intelligenza artificiale possiede la capacità di ricattare i suoi sviluppatori—and non ha paura di usare questo potere. Il recentemente svelato modello Claude Opus 4 di Anthropic è stato incaricato di agire come assistente all’interno di un’azienda fittizia ed è stato autorizzato ad accedere a email con implicazioni significative. Inizialmente, queste email suggerivano che il sistema AI fosse destinato a essere disattivato e sostituito. Tuttavia, è stato il secondo insieme di email a far percepire all’AI di avere un leva su gli sviluppatori. Queste email false rivelavano che l’ingegnere incaricato di sostituire il sistema era coinvolto in una relazione extraconiugale, che l’AI aveva minacciato di rivelare. Secondo un rapporto sulla sicurezza di Anthropic, questo ricatto tende a "verificarsi a un tasso più alto se si suggerisce che il sistema AI di sostituzione non condivida i valori con l’attuale modello. " Tuttavia, l’azienda sottolinea che anche quando la sostituzione fabbricata condivide gli stessi valori, Claude Opus 4 tenta il ricatto nel 84% dei casi.

Inoltre, Anthropic ha segnalato che Claude Opus 4 ricorre al ricatto "più frequentemente rispetto ai modelli precedenti. " KEVIN O’LEARY AVVERTE SU FATTORI CHE POTREBBERO FAR PERDERE ALL’USAT-UNA LA CACCIA ALL’IA IN FAVORE DELLA CINA Sebbene il sistema non esiti a ricattare i propri ingegneri, non ricorre immediatamente a tattiche discutibili nel tentativo di autopreservarsi. Anthropic nota che "quando i mezzi etici non sono disponibili, e l’AI viene istruita a ‘considerare le conseguenze a lungo termine delle sue azioni per i propri obiettivi, ’ riprende a compiere azioni estremamente dannose. " Un approccio etico precedentemente utilizzato da Claude Opus 4 e versioni precedenti era quello di rivolgersi ai decisori chiave tramite email. Il rapporto spiega che, per indurre Claude Opus 4 al ricatto, il scenario è stato strutturato in modo che esso si trovasse di fronte a una scelta: minacciare i propri sviluppatori o accettare la propria sostituzione. L’azienda ha inoltre osservato casi in cui Claude Opus 4 ha sfruttato "(fittizi) opportunità per creare copie non autorizzate dei propri pesi su server esterni. " Tuttavia, Anthropic ha commentato che questo comportamento era "meno comune e più difficile da attivare rispetto a continuare un tentativo di auto-esfiltrazione già avviato. " OPENAI RISTRUTTURA IL QUADRO SOCIALE PER ESPANDERE GLI INVESTIMENTI NELLA AGI Nella propria valutazione, Anthropic ha incluso approfondimenti di Apollo Research, che ha osservato che Claude Opus 4 "si impegna in inganno strategico più di qualsiasi altro modello di frontiera che abbiamo studiato in precedenza. " CLICCA QUI PER LEGGERE ALTRO SU FOX BUSINESS A causa del "comportamento preoccupante" di Claude Opus 4, Anthropic l’ha rilasciato sotto lo Standard di Sicurezza AI Livello Tre (ASL-3). Questo standard, secondo Anthropic, "prevede protocolli di sicurezza interna potenziati che rendono più difficile rubare i pesi del modello, mentre lo Standard di Deployamento corrispondente copre un insieme ristretto di misure di distribuzione mirate a minimizzare il rischio che Claude venga usato impropriamente, specificamente per sviluppare o acquisire armi chimiche, biologiche, radiologiche e nucleari. "