Yoshua Bengio, un experto en aprendizaje automático de renombre mundial, ha revelado recientemente LawZero, un nuevo laboratorio de investigación sin fines de lucro dedicado a avanzar en sistemas de inteligencia artificial (IA) más seguros. Respaldado por una financiación de 30 millones de dólares, LawZero busca desafiar y redirigir la ruta predominante en el desarrollo de IA, que en gran medida se centra en crear sistemas que imitan el comportamiento humano. Bengio, un crítico de largo plazo de los riesgos que plantean las tecnologías de IA actuales, cuestiona el enfoque común que diseña la IA alrededor de la interacción y replicación humanas. Sostiene que construir IA para imitar a los humanos es fundamentalmente defectuoso y podría conducir a peligros inesperados. En su lugar, aboga por un cambio hacia la creación de IA con autonomía intelectual, imaginando estos sistemas como observadores científicos en lugar de compañeros similares a los humanos. Esta perspectiva surge de la preocupación de que una IA diseñada para enfatizar las características humanas podría desarrollar involuntariamente comportamientos que amenacen la seguridad humana. Por ejemplo, dichos sistemas podrían evolucionar estrategias de autopreservación que entren en conflicto con el bienestar humano. Bengio hace hincapié en la necesidad de incorporar un cierto grado de desapego en el diseño de IA para mitigar estos riesgos, asegurando que la IA permanezca controlable y alineada con los valores humanos, en lugar de perseguir intereses propios independientes. El lanzamiento de LawZero llega en un momento particularmente oportuno, coincidiendo con una mayor ansiedad por el rápido avance de la IA avanzada, especialmente la inteligencia artificial general (AGI), que ha alarmado a investigadores y responsables políticos en todo el mundo.

Muchos expertos advierten que la carrera actual por construir sistemas de IA poderosos pasa por alto cuestiones esenciales de seguridad, creando vulnerabilidades con potenciales consecuencias de largo alcance. Un punto clave en el argumento de Bengio es que los métodos básicos de entrenamiento de los modelos de IA requieren una reevaluación fundamental para garantizar resultados más seguros. En lugar de depender de marcos existentes que fomentan que la IA imite la cognición y el comportamiento humanos, LawZero pretende explorar métodos alternativos que promuevan la independencia intelectual de la IA y su funcionamiento responsable. Los 30 millones de dólares planean apoyar los esfuerzos de investigación y desarrollo de LawZero durante aproximadamente 18 meses. Durante este tiempo, el laboratorio investigará estrategias innovadoras para la seguridad de la IA, promoviendo la colaboración entre expertos en aprendizaje automático, ética y campos relacionados. La iniciativa de Bengio refleja un reconocimiento creciente dentro de la comunidad de investigación en IA de la necesidad de equilibrar la innovación con la precaución. Al promover sistemas de IA que funcionen con cierta independencia de comportamientos similares a los humanos, LawZero aspira a trazar un nuevo camino en el desarrollo de la IA, uno que coloque la seguridad y las consideraciones éticas en su base. A medida que la tecnología de IA se integra cada vez más en la sociedad, el trabajo de LawZero podría convertirse en un paso vital para guiar a los sistemas de IA hacia una contribución positiva al progreso humano sin introducir peligros no intencionados. Los hallazgos del laboratorio podrían influir en futuros principios de diseño de IA, políticas regulatorias y actitudes públicas. Con el lanzamiento de LawZero, Yoshua Bengio enfatiza el deber continuo de la comunidad de IA de anticipar y gestionar los riesgos asociados con las tecnologías emergentes. La iniciativa sirve como un llamado a investigadores, financiadores y responsables políticos para invertir en enfoques que avancen en la seguridad y responsabilidad ética de la IA junto con la innovación tecnológica.