Tras la aparición de varios informes sobre la creación de pornografía infantil por inteligencia artificial en California, Erik Nasarenko, el Fiscal del Condado de Ventura, ha abogado por un cambio en la ley estatal para proteger a los niños que están cada vez más expuestos al mal uso de esta tecnología. Nasarenko recibió inicialmente una pista en diciembre pasado sobre una persona que había creado digitalmente imágenes explícitas donde una menor participaba en actos sexuales con un adulto. Sin embargo, debido a vacíos legales existentes en las leyes de California, descubrió que no podía presentar cargos en casos donde las imágenes de niños eran generadas usando inteligencia artificial. El año pasado, el Centro Nacional de Niños Desaparecidos y Explotados de EE. UU. informó haber recibido 4, 700 casos de fotos generadas por IA que representaban la explotación sexual infantil. Algunas escuelas secundarias y preparatorias de Los Ángeles incluso han expulsado a estudiantes por usar IA para crear imágenes sexualmente inapropiadas de sus compañeros. En los últimos cinco meses, la oficina de Nasarenko ha recibido seis informes relacionados con imágenes que muestran a menores participando en actividades sexuales. A medida que aumentan los incidentes de pornografía infantil generada por IA, los legisladores y fiscales de California consideran imperativo que el estado actúe para proteger a los niños y responsabilizar a los infractores. El Proyecto de Ley de la Asamblea 1831, patrocinado por el Asambleísta Marc Berman (D-Menlo Park) y copatrocinado por Nasarenko, tiene como objetivo hacer ilegal poseer, distribuir y crear imágenes generadas por IA de carácter sexualmente explícito de niños.

El proyecto de ley también abarcaría imágenes que representen a niños de manera realista pero no sean fotografías reales. SAG-AFTRA y la Asociación de Fiscales del Distrito de California también copatrocinan el proyecto de ley. Durante su testimonio en el Comité de Seguridad Pública de la Asamblea, Berman afirmó: "Con el rápido avance de la IA, esta tecnología ha sido utilizada para crear imágenes altamente realistas de abuso sexual infantil que pueden ser virtualmente indistinguibles de un niño real". El proyecto de ley permitiría que los adolescentes fueran procesados en tribunales de menores. El martes, Kaylin Hayman, una sobreviviente y defensora de las víctimas del Condado de Ventura que fue miembro regular del elenco de un programa de Disney Channel entre las edades de 10 y 14 años, testificó que su rostro de aquel entonces había sido superpuesto en el cuerpo de un adulto participando en actos sexuales. Hayman, actualmente con 16 años, expresó su sensación de violación y repugnancia al saber que adultos habían visto su imagen de manera tan horrorosa. Valientemente compartió: "Aunque hablar sobre este tema es aterrador, sé en lo más profundo de mí que tengo que compartir mi voz. Necesito crear conciencia y justicia para aquellos en mi situación". El creador de las imágenes manipuladas fue condenado en un tribunal federal. Sin embargo, Nasarenko enfatizó que California carece de una ley correspondiente que le habría permitido enjuiciar el caso a nivel local. El proyecto de ley fue aprobado con éxito por el Comité de Seguridad Pública de la Asamblea con el apoyo bipartidista y ahora pasa al Comité de Privacidad y Protección del Consumidor.