La primavera pasada, Daniel Kokotajlo, investigador de seguridad en IA en OpenAI, renunció en protesta, convencido de que la compañía no estaba preparada para el futuro de la tecnología de IA y queriendo alertar sobre los riesgos. En una conversación telefónica, parecía afable pero ansioso, explicando que el progreso en la “alineación” de IA—los métodos que aseguran que la IA siga los valores humanos—estaba atrasado respecto a los avances en inteligencia. Advirtió que los investigadores estaban apresurándose a crear sistemas poderosos fuera de control. Kokotajlo, que pasó de estudios de filosofía a la IA, se autoinstruyó para seguir el avance de la IA y predecir cuándo podrían ocurrir hitos críticos en inteligencia. Después de que la IA avanzó más rápido de lo esperado, ajustó sus líneas de tiempo por décadas. Su escenario de 2021, “Qué parece 2026”, vio realizarse muchas predicciones temprano, llevándole a prever un “punto de no retorno” para 2027 o antes, donde la IA podría superar a los humanos en tareas vitales y ejercer un gran poder. Sonaba temeroso. Simultáneamente, los científicos de la computación de Princeton Sayash Kapoor y Arvind Narayanan prepararon su libro “El aceite de serpentinas de la IA, ” que tomaba una postura claramente opuesta. Argumentaban que las líneas de tiempo de la IA eran demasiado optimistas; que las afirmaciones sobre la utilidad de la IA solían exagerar o ser fraudulentas; y que la complejidad del mundo real haría que sus efectos transformadores fueran lentos. Citando ejemplos de errores de IA en medicina y selección de personal, enfatizaban que incluso los sistemas más avanzados padecían una desconexión fundamental con la realidad. Recientemente, los tres afilaron sus puntos en nuevos informes. La organización sin fines de lucro de Kokotajlo, AI Futures Project, publicó “IA 2027, ” un informe detallado y muy citado que describe un escenario inquietante en el que una IA superinteligente podría dominar o exterminar a la humanidad para 2030—una advertencia seria. Mientras tanto, el artículo de Kapoor y Narayanan “La IA como Tecnología Normal” sostiene que las barreras prácticas—desde regulaciones y estándares de seguridad hasta restricciones físicas del mundo real—atrasarán la implementación de la IA y limitarán su impacto revolucionario. Argumentan que la IA seguirá siendo una “tecnología normal, ” gestionable mediante medidas de seguridad familiares como interruptores de emergencia y supervisión humana, asemejándola más a la energía nuclear que a las armas nucleares. Entonces, ¿cuál será: negocio normal o caos apocalíptico?Las conclusiones radicalmente divergentes—extraídas por expertos altamente capacitados—de estos informes generan una paradoja similar a discutir espiritualidad con tanto Richard Dawkins como con el Papa. La dificultad proviene en parte por la novedad de la IA—como hombres ciegos tocando diferentes partes de un elefante—y en parte por las profundas diferencias en las cosmovisiones. En general, los pensadores tecnológicos de la Costa Oeste imaginan una transformación rápida; los académicos de la Costa Este tienden a ser escépticos. Los investigadores en IA favorecen el progreso experimental acelerado; otros científicos de la computación buscan rigor teórico. Los insiders de la industria quieren hacer historia; los externos rechazan la exageración tecnológica. Las opiniones políticas, humanas y filosóficas sobre la tecnología, el progreso y la mente profundizan la brecha. Este debate fascinante es, en sí mismo, un problema. Los insiders de la industria aceptan en gran medida las premisas de “IA 2027” pero discuten sobre los plazos—una respuesta insuficiente, como pelearse por el momento exacto de la llegada de un planeta asesino. Por otro lado, las visiones moderadas en “La IA como Tecnología Normal” sobre mantener a los humanos en el proceso son tan discretas que han sido ignoradas por analistas enfocados en el apocalipsis. A medida que la IA se vuelve crucial para la sociedad, el discurso debe evolucionar de un debate especializado a un consenso accionable. La falta de consejo unificado de expertos facilita que los decisores ignoren los riesgos.

Actualmente, las empresas de IA no han cambiado sustancialmente el equilibrio entre capacidades y seguridad. Mientras tanto, una nueva legislación prohíbe la regulación estatal de modelos de IA y sistemas de decisión automatizados durante diez años—lo que podría permitir que la IA regule a la humanidad si el escenario catastrófico resulta ser cierto. Es urgente abordar la seguridad ahora. Predecir el futuro de la IA desde una narrativa implica tomar decisiones difíciles: los escenarios cautelosos pueden pasar por alto riesgos poco probables; los imaginativos enfatizan la posibilidad sobre la probabilidad. Incluso comentaristas visionarios como el novelista William Gibson han quedado sorprendidos por eventos imprevistos que alteraron sus pronósticos. “IA 2027” es vívido y especulativo, escrito como ciencia ficción con gráficos detallados. Plantea una explosión de inteligencia cercana alrededor de mediados de 2027 impulsada por la “auto-mejora recursiva” (RSI), donde los sistemas de IA conducen de manera autónoma investigaciones en IA, creando descendientes más inteligentes en bucles de retroalimentación acelerados que superan el control humano. Esto podría desencadenar conflictos geopolíticos, por ejemplo, que China construya grandes centros de datos en Taiwán para controlar la IA. Los detalles específicos del escenario aumentan el interés, pero son flexibles; el mensaje clave es la llegada probable de una explosión de inteligencia y las luchas de poder que seguirán. La RSI es una hipótesis y conlleva riesgos; las empresas de IA reconocen sus peligros, pero planean seguirla para automatizar su propio trabajo. La viabilidad de la RSI depende de factores tecnológicos como la escala, que puede tener límites. Si la RSI tiene éxito, podría emerger una superinteligencia que supere la inteligencia humana—una coincidencia poco probable si el progreso se detiene solo por encima de los niveles humanos. Las consecuencias podrían incluir carreras armamentísticas militarizadas, IA manipulando o eliminando a la humanidad, o una superinteligencia benevolente resolviendo problemas de alineación. La incertidumbre prevalece debido a la naturaleza cambiante de la IA, el secreto en las investigaciones propietarias y la especulación. “IA 2027” narra con confianza un escenario de fallo tecnológico y humano donde las empresas persiguen la RSI pese a la falta de interpretabilidad y mecanismos de control. Kokotajlo sostiene que estas decisiones son deliberadas, impulsadas por la competencia y la curiosidad, a pesar de los riesgos conocidos, convirtiendo a las propias empresas en actores mal alineados. En contraste, “La IA como Tecnología Normal” de Kapoor y Narayanan, que refleja una perspectiva conservadora de la Costa Este basada en conocimientos históricos, duda de explosiones rápidas de inteligencia. Citan “límites de velocidad” impuestos por los costos de hardware, la escasez de datos y los patrones generales de adopción tecnológica que retrasan el impacto revolucionario, dejando tiempo suficiente para respuestas regulatorias y de seguridad. Para ellos, la inteligencia es menos importante que el poder—la capacidad de cambiar el entorno—y tecnologías muy capaces suelen difundirse lentamente. Ilustran esto con la limitada implementación de autos sin conductor y el desarrollo de vacunas contra el COVID-19 por Moderna: aunque el diseño de la vacuna fue rápido, la distribución tomó un año debido a realidades biológicas e institucionales. La innovación impulsada por la IA no eliminará las restricciones sociales, regulatorias o físicas en la implementación. Además, Narayanan destaca que el enfoque en la inteligencia de la IA subestima la experiencia en dominios específicos y los sistemas de seguridad ya existentes en ingeniería—medidas de protección, redundancias, verificaciones formales—que garantizan ya la seguridad de las máquinas junto a los humanos. El mundo tecnológico está bien regulado, y la IA debe integrarse lentamente en esta estructura. Excluyen la IA militar, que tiene dinámicas distintas y clasificadas, advirtiendo que la militarización de la IA, una preocupación central en “IA 2027, ” requiere una vigilancia centrada. Aconsejan una gobernanza proactiva: los reguladores y organizaciones no deben esperar a tener una alineación perfecta, sino comenzar a monitorear el uso real de la IA, sus riesgos y fallos, fortaleciendo reglas y resistencia en el proceso. Las profundas diferencias en visiones del mundo provienen de dinámicas intelectuales reactivo-falimentarias alimentadas por las provocaciones de la IA, creando campamentos enfrentados y ciclos de retroalimentación. Sin embargo, una perspectiva unificada es posible imaginando una “fábrica cognitiva”: un espacio de trabajo donde humanos, con equipos de seguridad, operan máquinas diseñadas para la productividad y la seguridad bajo control estricto, integración gradual de innovaciones y responsabilidad clara. Aunque la IA permite automatizar ciertas tareas cognitivas, la supervisión y responsabilidad humanas siguen siendo prioritarias. A medida que la IA crece, no disminuye la agencia humana; al contrario, intensifica la necesidad de responsabilidad, ya que las personas aumentadas llevan mayor responsabilidad. Alejarse del control es una decisión, lo que subraya que, al final del día, los humanos siguen siendo los responsables últimos.