Un proyecto de ley de la Asamblea de California destinado a prohibir la pornografía infantil generada por inteligencia artificial ha superado un obstáculo inicial en Sacramento. El proyecto de ley, conocido como AB 1831, ha pasado por la audiencia del Comité de Seguridad Pública de la Asamblea y será revisado por el Comité de Privacidad y Protección al Consumidor la próxima semana. El objetivo de este proyecto de ley es abordar una laguna en las leyes existentes de California sobre pornografía infantil, que actualmente criminalizan la producción, distribución y posesión de material de abuso sexual infantil que involucra a niños reales, pero pasan por alto el problema de imágenes generadas por computadora que se asemejan a menores. Los defensores del proyecto de ley argumentan que los materiales generados por inteligencia artificial a menudo utilizan los rostros de niños reales, lo que resulta en una victimización adicional cuando se difunden estas imágenes. Durante la audiencia, la detective Heather Timmins del Departamento del Sheriff del Condado de Orange enfatizó el impacto en los niños afectados, mencionando lo humillante que es para ellos saber que estas imágenes han estado circulando en sus escuelas. El fiscal del distrito del condado de Ventura, Erik Nasarenko, copatrocinador de la legislación, hizo hincapié en la necesidad de abordar rápidamente este lado oscuro de la inteligencia artificial, destacando que el contenido generado por inteligencia artificial que involucra a menores constituye un abuso real y no debe considerarse sin víctimas. El proyecto de ley AB 1831 busca prohibir la creación, distribución y posesión de material de abuso sexual infantil generado por computadora o inteligencia artificial. Además de los representantes de la aplicación de la ley, la ex actriz infantil de Disney Channel, Kaylin Hayman, testificó en la audiencia.

Hayman, ahora con 16 años, compartió su experiencia de ser contactada por el FBI el año pasado y se le informó que se habían descubierto videos generados por inteligencia artificial en los que se mostraba su imagen participando en actividades sexuales. Expresó sentirse violada y disgustada por saber que hombres adultos la habían presenciado de una manera tan perturbadora. Recientemente se han producido incidentes relacionados con el abuso sexual habilitado por inteligencia artificial en el sur de California. Por ejemplo, el mes pasado se expulsó a cinco estudiantes de octavo grado de la Escuela Secundaria Beverly Vista de Beverly Hills por utilizar inteligencia artificial para crear imágenes desnudas de sus compañeros de clase. También se han informado incidentes similares de uso indebido de inteligencia artificial en la Escuela Secundaria Calabasas y la Escuela Secundaria Laguna Beach.