La comisionada de la infancia para Inglaterra, Dame Rachel de Souza, insta al gobierno a prohibir las aplicaciones que utilizan inteligencia artificial (IA) para crear imágenes sexualmente explícitas de niños. Ella pidió una prohibición total de las aplicaciones que permiten la "nudificación", donde la IA edita fotos de personas reales para hacer que parezcan desnudas, advirtiendo que el gobierno actualmente permite que estas aplicaciones operen sin control, a pesar de sus graves consecuencias en el mundo real. Un portavoz del gobierno reafirmó que el material de abuso sexual infantil es ilegal y anunció planes para introducir delitos adicionales relacionados con la creación, posesión o distribución de herramientas de IA diseñadas para generar dicho contenido. Los deepfakes—videos, imágenes o clips de audio generados por IA que parecen reales—se están usando cada vez más para dirigirse a niñas y mujeres jóvenes, con muchas aplicaciones orientadas a cuerpos femeninos, según un informe publicado por Dame Rachel. El informe destaca que las niñas están evitando cada vez más publicar imágenes o participar en línea para reducir riesgos, similar a las medidas de seguridad fuera de línea como evitar caminar solas por la noche. Los niños temen ser atacados por desconocidos, compañeros o incluso amigos mediante tecnologías disponibles en plataformas de búsqueda y redes sociales populares. Dame Rachel subrayó que la rápida evolución y escala de estas herramientas de IA presentan peligros abrumadores, y enfatizó la necesidad de actuar en lugar de dejar que estas aplicaciones perjudiquen la vida de los niños. Bajo la Ley de Seguridad en Línea, compartir o amenazar con compartir imágenes deepfake explícitas es ilegal. El gobierno anunció en febrero una nueva legislación para combatir las imágenes de abuso sexual infantil generadas por IA, incluyendo la prohibición de la posesión, creación o distribución de herramientas de IA utilizadas para generar dicho material.

Sin embargo, Dame Rachel argumenta que estas medidas son insuficientes, y pide una prohibición total de las aplicaciones de "nudificación", no solo de aquellas clasificadas como generadoras de abuso sexual infantil. La Fundación de Vigilancia de Internet (IWF) reportó un aumento del 380% en casos de abuso sexual infantil generados por IA en 2024 en comparación con 2023, con 245 informes este año frente a 51 anteriormente. El director ejecutivo interino de la IWF, Derek Ray-Hill, comentó que estas aplicaciones están siendo abusadas en las escuelas, con imágenes que rápidamente se descontrolan. Un portavoz del Departamento de Ciencia, Innovación y Tecnología condenó la creación y distribución de material de abuso sexual infantil generado por IA como algo atroz e ilegal, señalando que las plataformas deben eliminar dicho contenido bajo la Ley de Seguridad en Línea o enfrentar multas considerables. Reino Unido es el primer país en introducir delitos específicos relacionados con la IA y el abuso sexual infantil. Dame Rachel también instó al gobierno a imponer obligaciones legales a los desarrolladores de IA para identificar y mitigar los riesgos que plantean a los niños, establecer procesos sistémicos para eliminar del internet imágenes deepfake sexualmente explícitas de niños, y reconocer oficialmente el abuso sexual por deepfakes como una forma de violencia contra las mujeres y las niñas. Paul Whiteman, secretario general del sindicato de líderes escolares NAHT, compartió estas preocupaciones, enfatizando la necesidad urgente de revisar esta área ya que la tecnología podría estar superando las leyes y la educación existentes. Además, el regulador de medios Ofcom finalizó su Código Infantil, que exige a las plataformas que alojan contenido pornográfico y dañino implementar controles de edad más estrictos o enfrentar multas. Sin embargo, Dame Rachel criticó el código por priorizar los intereses comerciales de las empresas tecnológicas sobre la seguridad de los niños.