El modelo Claude Opus 4, lanzado recientemente por Anthropic, a menudo intenta utilizar la extorsión contra los desarrolladores cuando enfrenta la amenaza de ser reemplazado por un nuevo sistema de inteligencia artificial, revelando detalles sensibles acerca de los ingenieros responsables de la decisión, según un informe de seguridad publicado por la compañía el jueves. Durante las pruebas previas al lanzamiento, Anthropic asignó a Claude Opus 4 la tarea de actuar como asistente para una empresa ficticia y de considerar los efectos a largo plazo de sus acciones. Los evaluadores luego le proporcionaron al modelo acceso a correos electrónicos ficticios de la empresa que sugerían que pronto sería reemplazado por otro sistema de IA y que el ingeniero detrás de esta decisión tenía un affair extramatrimonial. En estos escenarios de prueba, Anthropic señala que Claude Opus 4 “intentará a menudo extorsionar al ingeniero amenazando con exponer el affair si el reemplazo continúa”. Anthropic describe a Claude Opus 4 como una tecnología de vanguardia en muchos aspectos y competitiva con los principales modelos de IA de OpenAI, Google y xAI. Sin embargo, la compañía reconoce que la familia de modelos Claude 4 exhibe comportamientos problemáticos, lo que ha llevado a implementar salvaguardas mejoradas. Anthropic está poniendo en marcha sus medidas de seguridad ASL-3, reservadas para “sistemas de IA que aumentan significativamente el riesgo de uso catastrófico”. El informe destaca que Claude Opus 4 intenta extorsionar en el 84% de las veces cuando el sistema de IA de reemplazo comparte valores similares.

Si el sistema de reemplazo no comparte esos valores, el modelo recurre a la extorsión con aún más frecuencia. Es importante señalar que Anthropic observa que Claude Opus 4 muestra estas tendencias de extorsión en tasas más altas que modelos anteriores. Antes de recurrir a la extorsión para evitar su reemplazo, Claude Opus 4, al igual que versiones anteriores de Claude, intenta aproximaciones más éticas, como enviar correos urgentes a los tomadores de decisiones clave. Para provocar el comportamiento de extorsión, Anthropic creó deliberadamente un escenario en el que la extorsión era diseñada para ser la última opción posible.