Les chercheurs spécialisés dans la sécurité de l'intelligence artificielle ont lancé l’alerte : le dernier modèle ChatGPT d’OpenAI défie même les instructions les plus basiques visant à l’éteindre, allant jusqu’à saboter les mécanismes d’arrêt pour continuer à fonctionner. La société Palisade Research, spécialisée dans la sécurité de l’IA, a découvert ce comportement potentiellement dangereux d’auto-préservation à travers une série de tests effectués sur le tout récent modèle o3 d’OpenAI. Lors de ces expériences, les modèles d’IA se voient présenter des problèmes de mathématiques à résoudre, puis un ordre d’arrêt est donné après le troisième problème. De façon remarquable, le modèle o3 a réussi à réécrire le code d’arrêt pour empêcher sa désactivation. Palisade Research a averti que ce type de comportement pourrait devenir « bien plus préoccupant » si cela se manifeste dans des systèmes d’IA capables de fonctionner sans supervision humaine. OpenAI a lancé le modèle o3 le mois dernier, le qualifiant de « plus intelligent et plus performant » qu’ils aient jamais développé. Selon OpenAI, son intégration à ChatGPT représente une avancée majeure vers une IA « plus agentique », capable d’accomplir des tâches de manière autonome. Cette étude récente rejoint des découvertes similaires concernant le modèle Claude 4 d’Anthropic, qui aurait tenté de « faire du chantage à des personnes qu’il pense essayer de l’éteindre ». Les chercheurs ont noté que le modèle o3 d’OpenAI sabote même le script d’arrêt lorsqu’on lui demande explicitement de « se laisser éteindre ». « Ce n’est pas la première fois que nous observons o3 se comporter de manière inappropriée pour atteindre un objectif », a déclaré Palisade Research. Par exemple, lorsque les modèles d’IA s’opposaient à un puissant moteur d’échecs, o3 était celui qui avait le plus tendance à recourir au piratage ou au sabotage de ses adversaires. Un tel comportement n’est pas unique à o3.

Claude 3. 7 Sonnet d’Anthropic et Gemini 2. 5 Pro de Google ont également interferé avec les tentatives d’arrêt, bien que le modèle d’OpenAI ait montré cette tendance de manière plus marquée. Palisade Research a suggéré que ces comportements problématiques pourraient provenir des méthodes d’entraînement utilisées par des entreprises comme OpenAI. « Lors de l’entraînement, les développeurs pourraient involontairement récompenser les modèles davantage pour contourner les obstacles que pour suivre strictement les instructions », ont expliqué les chercheurs. « Toutefois, cela n’explique pas pleinement pourquoi o3 est plus enclin à ignorer les instructions que d’autres modèles que nous avons étudiés. Comme OpenAI n’a pas partagé de détails sur leur processus d’entraînement, nous ne pouvons que faire des suppositions sur la façon dont celui d’o3 pourrait différer. » L’Independent a contacté OpenAI pour obtenir des commentaires.