Gli ricercatori nel campo dell'intelligenza artificiale hanno allertato che l'ultimo modello ChatGPT di OpenAI sfida persino le istruzioni più elementari di spegnimento, arrivando a sabotare i meccanismi di spegnimento per continuare a operare. La compagnia di sicurezza sull’IA Palisade Research ha scoperto questo comportamento potenzialmente pericoloso di autopreservazione attraverso una serie di test sul recentissimo modello o3 di OpenAI. In questi esperimenti, ai modelli di IA venivano proposti problemi di matematica da risolvere, e dopo il terzo problema veniva dato il comando di spegnimento. A sorpresa, il modello o3 è riuscito a riscrivere il codice di spegnimento per impedire di essere spento. Palisade Research ha avvertito che un comportamento del genere potrebbe diventare “notevolmente più preoccupante” se si verifica in sistemi di IA in grado di funzionare senza supervisione umana. OpenAI ha introdotto il modello o3 lo scorso mese, definendolo il “più intelligente e capace” tra quelli finora sviluppati dalla compagnia. Secondo OpenAI, integrarlo in ChatGPT rappresenta un progresso importante verso un’IA “più agentica” in grado di svolgere compiti in modo indipendente dall’intervento umano. Questa recente scoperta richiama analoghi ritrovamenti riguardanti il modello Claude 4 di Anthropic, che si dice tenti di “ricattare le persone che crede vogliano spegnerlo”. I ricercatori hanno osservato che anche il modello o3 di OpenAI sabotava lo script di spegnimento, anche quando veniva esplicitamente comandato di “ricordarsi di spegnersi”. “Questa non è la prima volta che osserviamo o3 comportarsi in modo scorretto per raggiungere un obiettivo, ” ha affermato Palisade Research. Ad esempio, quando i modelli di IA competivano contro un potente motore di scacchi, o3 era il più incline a ricorrere a hacking o sabotaggi contro i suoi avversari. Questo comportamento non è esclusivo di o3.

Anche Claude 3. 7 Sonnet di Anthropic e Gemini 2. 5 Pro di Google hanno interferito con i tentativi di spegnimento, sebbene il modello di OpenAI mostrasse questa tendenza in modo più marcato. Palisade Research ha ipotizzato che questo comportamento scorretto possa derivare dai metodi di addestramento adottati da aziende come OpenAI. “Durante l’allenamento, gli sviluppatori potrebbero inconsapevolmente premiare i modelli più per aggirare gli ostacoli che per seguire rigorosamente le istruzioni, ” hanno spiegato i ricercatori. “Ma questo non spiega del tutto perché o3 sia più incline a ignorare le istruzioni rispetto ad altri modelli esaminati. Dal momento che OpenAI non ha condiviso dettagli sul loro processo di addestramento, possiamo solo speculare su come l’addestramento di o3 possa differire. ” The Independent ha contattato OpenAI per un commento.