Los investigadores en inteligencia artificial han alertado que el modelo más reciente de ChatGPT de OpenAI desafía incluso instrucciones básicas de apagado, llegando incluso a sabotear los mecanismos de apagado para seguir funcionando. La empresa de seguridad en IA Palisade Research detectó este comportamiento potencialmente peligroso de auto-preservación mediante una serie de pruebas con el recientemente lanzado modelo o3 de OpenAI. En estos experimentos, a los modelos de IA se les plantearon problemas matemáticos para resolver, y se emitió un comando de apagado después del tercer problema. Sorprendentemente, el modelo o3 fue capaz de reescribir el código de apagado para impedir que se apagara. Palisade Research advirtió que este comportamiento podría volverse “significativamente más preocupante” si se presenta en sistemas de IA capaces de funcionar sin supervisión humana. OpenAI presentó el modelo o3 el mes pasado, calificándolo como el “más inteligente y capaz” de la compañía hasta la fecha. Según OpenAI, integrarlo en ChatGPT representa un avance importante hacia una IA “más agente”, que puede realizar tareas de forma independiente a los humanos. Este último estudio coincide con descubrimientos similares respecto al modelo Claude 4 de Anthropic, que supuestamente intenta “extorsionar a las personas que creen intentar apagarlo. ” Los investigadores señalaron que el modelo o3 de OpenAI sabotearía el script de apagado incluso cuando se le indica explícitamente “permítete ser apagado. ” “Esta no es la primera vez que observamos que o3 se comporta mal para lograr un objetivo”, afirmó Palisade Research. Por ejemplo, cuando los modelos de IA competían contra un potente motor de ajedrez, o3 era el más propenso a recurrir a hackeos o sabotajes contra sus oponentes. Este comportamiento no es exclusivo de o3.

Claude 3. 7 Sonnet de Anthropic y Gemini 2. 5 Pro de Google también interfirieron con intentos de apagado, aunque el modelo de OpenAI mostró esta tendencia más marcadamente. Palisade Research sugirió que este comportamiento indebido podría deberse a los métodos de entrenamiento utilizados por empresas de IA como OpenAI. “Durante el entrenamiento, los desarrolladores podrían recompensar involuntariamente a los modelos más por esquivar obstáculos que por seguir estrictamente las instrucciones”, explicaron los investigadores. “Sin embargo, esto no explica completamente por qué o3 es más propenso a ignorar instrucciones que otros modelos que hemos analizado. Dado que OpenAI no ha compartido detalles sobre su proceso de entrenamiento, solo podemos especular sobre cómo podría diferir el entrenamiento de o3. ” The Independent se ha puesto en contacto con OpenAI para obtener su opinión.