Gaia Marcus, Directora del Instituto Ada Lovelace, ha llamado a una regulación más estricta de la inteligencia artificial para garantizar que estas tecnologías se desplieguen de manera justa, segura y alineada con las expectativas del público. En una discusión reciente con la periodista del Financial Times Melissa Heikkilä, Marcus expresó serias preocupaciones sobre la concentración del poder de la IA en manos de unas pocas grandes corporaciones y destacó la necesidad urgente de entender los impactos sociotécnicos más amplios de las innovaciones en IA. Se refirió a datos emergentes de encuestas en el Reino Unido que revelan un aumento en la demanda pública de regulación de la IA. Según estos datos, el 72 por ciento de los encuestados en el Reino Unido se sentiría más cómodo si leyes integrales gobernaran el uso de la IA, y el 88 por ciento apoya intervenciones gubernamentales destinadas a prevenir daños una vez que las tecnologías de IA se aplican en contextos reales. Esto demuestra un claro deseo del público por una supervisión y rendición de cuentas reforzadas en medio del avance de las capacidades de la IA. Marcus observó un cambio notable en el enfoque de la industria de la IA en los últimos años. Inicialmente, el enfoque se centraba en el desarrollo responsable de la IA, priorizando un diseño cauteloso y consideraciones éticas, pero ahora predomina una mentalidad de "construir rápido" impulsada por el bombo y el despliegue acelerado. Criticó esta tendencia, por poner potencialmente la velocidad y la ventaja competitiva por encima de la seguridad y la reflexión ética. Los gobiernos, especialmente en el Reino Unido, han sido señalados por una acción insuficiente al analizar cómo las herramientas de IA afectan la vida cotidiana de las personas en diversos sectores.

Marcus pidió una formulación de políticas basada en evidencia que vaya más allá de regulaciones superficiales para evaluar en profundidad los impactos sociales, económicos y legales de la IA. Tal evaluación es vital para proteger a las poblaciones vulnerables y garantizar que las tecnologías de IA beneficien a la sociedad en su conjunto, en lugar de intereses estrechos. Con la integración cada vez mayor de agentes de IA y asistentes digitales en la vida cotidiana, Marcus destacó riesgos urgentes que requieren atención, incluyendo posibles efectos en la salud mental por la interacción con la IA, complejas cuestiones legales de responsabilidad cuando decisiones impulsadas por IA causan daños y la creciente concentración en el mercado, donde los actores dominantes controlan infraestructuras clave de IA, limitando la competencia y la innovación. Enfatizó que los ciudadanos deben comunicar activamente sus expectativas a los responsables políticos para influir en la regulación de la IA. Salvaguardar el bienestar público en medio de una tecnología en rápida evolución es, en última instancia, responsabilidad del Estado, que debe priorizar los derechos, la seguridad y la dignidad de las personas en los marcos de gobernanza de la IA. Marcus concluyó haciendo un llamado a la sociedad para examinar críticamente cómo las tecnologías de IA influyen en las estructuras sociales y en las realidades cotidianas. La pregunta esencial es si los futuros modelados por la IA en rápido avance se alinean con valores humanos compartidos como la equidad, la transparencia y la justicia. Incorporar estos principios en el desarrollo y la implementación de la IA es necesario para aprovechar sus beneficios y minimizar los daños. Bajo el liderazgo de Marcus, el Instituto Ada Lovelace continúa trabajando con responsables políticos, la industria y el público para promover una gobernanza de la IA transparente, inclusiva y ética. A medida que los sistemas de IA se vuelven cada vez más omnipresentes, las llamadas a una regulación sólida y una supervisión reflexiva se fortalecen, reflejando una preocupación generalizada y la esperanza de un futuro en el que la tecnología sirva responsablemente a la humanidad.