Suite à la publication de plusieurs rapports sur la création de pornographie infantile par l'intelligence artificielle en Californie, Erik Nasarenko, procureur du comté de Ventura, a plaidé en faveur d'un changement de la loi de l'État afin de protéger les enfants, de plus en plus exposés aux risques liés à la mauvaise utilisation de cette technologie. Nasarenko a reçu une information en décembre dernier à propos d'une personne ayant créé numériquement des images explicites mettant en scène une jeune fille mineure participant à des actes sexuels avec un homme adulte. Cependant, en raison des failles existantes dans les lois de Californie, il a découvert qu'il ne pouvait pas engager des poursuites dans les cas où les images d'enfants étaient générées à l'aide de l'intelligence artificielle. L'année dernière, le Centre national américain pour les enfants disparus et exploités a déclaré avoir reçu 4700 cas de photos générées par l'intelligence artificielle dépeignant l'exploitation sexuelle des enfants. Certaines écoles secondaires de Los Angeles ont même exclu des élèves pour avoir utilisé l'intelligence artificielle afin de créer des images sexuellement inappropriées de leurs camarades. Au cours des cinq derniers mois, le bureau de Nasarenko a reçu six signalements concernant des images mettant en scène des mineurs participant à des activités sexuelles. Alors que les cas de pornographie infantile générée par l'intelligence artificielle continuent d'augmenter, les législateurs et les procureurs de Californie estiment qu'il est impératif que l'État agisse pour protéger les enfants et tenir les auteurs responsables. Le projet de loi 1831, parrainé par le député Marc Berman (D-Menlo Park) et co-parrainé par Nasarenko, vise à rendre illégal la possession, la distribution et la création d'images sexuellement explicites générées par l'intelligence artificielle mettant en scène des enfants. Le projet de loi couvrirait également les images dépeignant des enfants de manière réaliste mais qui ne sont pas de véritables photographies.

SAG-AFTRA et l'Association des procureurs de district de Californie parrainent également le projet de loi. Lors de son témoignage devant le Comité de la sécurité publique de l'Assemblée, Berman a déclaré : "Avec l'avancement rapide de l'intelligence artificielle, cette technologie a été utilisée pour créer des images hautement réalistes d'abus sexuel sur des enfants, qui peuvent être virtuellement indiscernables d'un enfant réel. " Le projet de loi permettrait également de poursuivre les adolescents devant des tribunaux pour mineurs. Mardi, Kaylin Hayman, une survivante et militante pour les victimes du comté de Ventura, qui était membre régulier de la distribution d'une émission de la chaîne Disney entre l'âge de 10 et 14 ans, a témoigné que son visage de l'époque avait été superposé sur le corps d'un adulte participant à des actes sexuels. Hayman, qui a maintenant 16 ans, a exprimé son sentiment de violation et de dégoût, sachant que des adultes avaient vu son image de cette manière horrible. Avec courage, elle a partagé : "Parler de ce sujet est effrayant, mais je sais au fond de moi que je dois faire entendre ma voix. Je dois attirer l'attention et obtenir justice pour ceux qui sont dans ma situation. " Le créateur des images manipulées a été condamné devant un tribunal fédéral. Cependant, Nasarenko a souligné que la Californie ne dispose pas d'une loi correspondante qui lui aurait permis de poursuivre l'affaire au niveau local. Le projet de loi a été adopté avec le soutien bipartisan par le Comité de la sécurité publique de l'Assemblée et est maintenant soumis au Comité de la protection de la vie privée et des consommateurs.