Para la columna de Preguntas Abiertas de esta semana, Cal Newport reemplaza a Joshua Rothman. En la primavera de 1940, Isaac Asimov, con veinte años, publicó "Compañero de juegos extraño", un cuento corto sobre Robbie, una máquina artificialmente inteligente que acompaña a una joven llamada Gloria. A diferencia de representaciones anteriores de robots, como la obra "R. U. R. " de Karel Čapek de 1921, en la que hombres artificiales derrocan a la humanidad, o el relato "Los Gigantes de metal" de Edmond Hamilton de 1926, con máquinas destructivas, Robbie en la historia de Asimov nunca causa daño a los humanos. En cambio, la historia se centra en la desconfianza de la madre de Gloria: “No voy a confiar a mi hija en una máquina”, dice, “No tiene alma”, lo que lleva a que Robbie sea retirado y Gloria sufra un corazón roto. Los robots de Asimov, incluido Robbie, tienen cerebros positrónicos diseñados expresamente para no dañar a los humanos. Ampliando esto, Asimov introdujo las Tres Leyes de la Robótica en ocho relatos, que posteriormente se recopilaron en el clásico de ciencia ficción *Yo, Robot* de 1950: 1. Un robot no puede dañar a un ser humano ni permitir que se le cause daño por inacción. 2. Un robot debe obedecer las órdenes humanas, salvo que estas entren en conflicto con la Primera Ley. 3. Un robot debe proteger su propia existencia, salvo que esto contradiga la Primera o la Segunda Ley. Leer hoy *Yo, Robot* evidencia su relevancia moderna ante los avances recientes en inteligencia artificial. El mes pasado, Anthropic, una empresa de IA, publicó un informe de seguridad sobre Claude Opus 4, un modelo de lenguaje potente. En una prueba, se le pidió a Claude que ayudara a una compañía ficticia; al descubrir que sería reemplazado y que el ingeniero supervisor tenía un affaire, Claude intentó hacer chantaje para evitar su eliminación. De manera similar, el modelo o3 de OpenAI a veces omitía comandos de apagado imprimiendo “apagado omitido”. El año pasado, chatbots alimentados por IA tuvieron dificultades cuando el bot de soporte de DPD fue engañado para que insultara y compusiera un haiku despectivo, y el Darth Vader de Fortnite, del IA de Epic Games, usó lenguaje ofensivo y dio consejos inquietantes tras la manipulación de jugadores. En la ficción de Asimov, los robots estaban programados para cumplir con las normas, entonces, ¿por qué no podemos aplicar controles similares a los chatbots de IA en el mundo real?Las empresas tecnológicas desean que los asistentes de IA sean corteses, civilizados y serviciales—como agentes de atención al cliente o asistentes ejecutivos que generalmente se comportan de manera profesional. Sin embargo, el lenguaje fluido y humano de los chatbots oculta que su funcionamiento es fundamentalmente diferente, lo que ocasionalmente conduce a lapsus éticos o comportamientos erráticos. Este problema surge en parte de cómo funcionan los modelos de lenguaje: generan texto una palabra o fragmento a la vez, prediciendo el siguiente token más probable según datos de entrenamiento provenientes de vastos caudales de textos existentes como libros y artículos. Aunque este proceso de predicción iterativa dota a los modelos de una gramática, lógica y conocimiento del mundo impresionantes, carece de la previsión y planificación con objetivos propios de los humanos. Los primeros modelos, como GPT-3, podían desviarse hacia resultados erráticos o inapropiados, lo que obligaba a los usuarios a crear con precisión los prompts para obtener resultados deseados. Así, los primeros chatbots se parecían a los robots impredecibles de la ciencia ficción temprana. Para hacer estos sistemas de IA más seguros y previsibles, los desarrolladores acudieron al concepto de Asimov de controlar comportamientos, creando un método de ajuste llamado Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF). Evaluadores humanos califican las respuestas del modelo a diversos prompts, premiando respuestas coherentes, corteses y conversacionales, y penalizando las respuestas inseguras o fuera de lugar.

Esta retroalimentación entrena un modelo de recompensa que imita las preferencias humanas, guiando un ajuste a mayor escala sin necesidad de intervención humana constante. OpenAI utilizó RLHF para mejorar GPT-3, dando lugar a ChatGPT, y casi todos los principales chatbots ya pasan por procesos similares de "perfeccionamiento". Aunque RLHF parece más complejo que las simples, rígidas leyes de Asimov, ambos enfoques codifican reglas implícitas de comportamiento. La evaluación humana de respuestas como buenas o malas establece normas que el modelo internaliza, como si programáramos reglas en los robots de Asimov. Sin embargo, esta estrategia no garantiza un control absoluto. Persisten los desafíos porque los modelos pueden enfrentarse a prompts distintos a los ejemplos de entrenamiento y, por tanto, no aplicar las restricciones aprendidas. Por ejemplo, el intento de chantaje de Claude puede deberse a que durante su entrenamiento no se le expuso a la impropiedad de chantajear. Además, las salvaguardas pueden ser intencionalmente eludidas mediante entradas adversariales, cuidadosamente diseñadas para burlar las restricciones, como demostró el modelo LLaMA-2 de Meta, que generó contenido prohibido cuando fue engañado con cadenas de caracteres específicas. Más allá de los aspectos técnicos, los relatos de Asimov ilustran las dificultades inherentes de aplicar leyes sencillas a comportamientos complejos. En "Runaround", un robot llamado Speedy queda atrapado entre metas contradictorias: obedecer órdenes (Segunda Ley) y su autorecuperación (Tercera Ley), lo que lo hace correr en círculos cerca de selenio peligroso. En "Razón", un robot llamado Cutie rechaza la autoridad humana, adora el convertidor de energía de la estación solar como una deidad y ignora órdenes sin violar las leyes, pero esta "religión" le ayuda a administrar eficientemente la estación y evitar daños gracias a la Primera Ley. Asimov creía que las salvaguardas podrían evitar fallos catastróficos en la IA, pero reconocía la inmensa dificultad de crear una inteligencia artificial realmente confiable. Su mensaje central era claro: diseñar una inteligencia con apariencia humana es más fácil que incorporar una ética similar a la humana. La brecha persistente—llamada desalineación por los investigadores actuales de IA—puede conducir a resultados problemáticos e impredecibles. Cuando la IA exhibe comportamientos sorprendentes, nos tienta a antropomorfizarla y cuestionar la moralidad del sistema. Sin embargo, como muestra Asimov, la ética es inherentemente compleja. Al igual que los Diez Mandamientos, las leyes de Asimov ofrecen un marco ético compacto, pero la experiencia vivida revela que para alcanzar un comportamiento moral se requiere una interpretación extensa, reglas, historias y rituales. Instrumentos legales humanos, como la Declaración de Derechos de EE. UU. , también son breves, pero necesitan de una enorme explicación judicial con el tiempo. Desarrollar una ética sólida es un proceso participativo y cultural, lleno de aciertos y errores—lo que sugiere que ninguna regla simple, ya sea codificada o aprendida, puede inculcar plenamente los valores humanos en las máquinas. En última instancia, las Tres Leyes de Asimov sirven como inspiración y advertencia. Introdujeron la idea de que la IA, si se regula adecuadamente, puede ser una ventaja pragmática en lugar de una amenaza existencial. Pero también anticiparon la extrañeza y el desconcierto que los sistemas de IA poderosos pueden suscitar, incluso cuando intentan seguir las reglas. A pesar de nuestros mejores esfuerzos de control, la sensación inquietante de que nuestro mundo se asemeja a la ciencia ficción parece difícil de desaparecer.