Efter fremkomst af adskillige rapporter om skabelsen af børnepornografi af kunstig intelligens i Californien har Erik Nasarenko, distriktsanklager for Ventura County, argumenteret for en ændring af delstatsloven for at beskytte børn, der i stigende grad er i fare for misbrug af denne teknologi. Nasarenko modtog i første omgang en tip i december sidste år om en person, der havde digitalt produceret eksplicitte billeder med en mindreårig pige, der deltager i seksuelle handlinger med en voksen mand. Men på grund af eksisterende smuthuller i Californiens love kunne han ikke rejse sigtelser i sager, hvor billeder af børn blev genereret ved brug af AI. Sidste år rapporterede USA's nationale center for savnede og udnyttede børn, at de modtog 4700 tilfælde af AI-genererede fotos, der afbildede seksuel udnyttelse af børn. Nogle mellem- og gymnasier i Los Angeles har endda bortvist elever for at bruge AI til at skabe seksuelt upassende billeder af deres jævnaldrende. I løbet af de sidste fem måneder har Nasarenkos kontor modtaget seks tip vedrørende billeder, der fremstiller mindreårige, der deltager i seksuelle aktiviteter. Da antallet af tilfælde med AI-genereret børnepornografi fortsætter med at stige, mener lovgivere og anklagere i Californien, at det er afgørende, at staten handler for at beskytte børn og straffe lovovertrædere. Forslag AB 1831, sponsoreret af medlem af forsamlingen Marc Berman (D-Menlo Park) og medsponsor af Nasarenko, sigter mod at gøre det ulovligt at besidde, distribuere og skabe AI-genererede seksuelt eksplicitte billeder af børn. Loven ville også dække billeder, der afbilder børn realistisk, men ikke er faktiske fotografier.

SAG-AFTRA og Californiens distriktsanklagerforening er også medsponsorere af loven. Under vidneudsagn i forsamlingen for offentlig sikkerhed sagde Berman: "Med AI's hurtige fremskridt er denne teknologi blevet brugt til at skabe yderst realistiske billeder af seksuelt misbrug af børn, som nærmest ikke kan skelnes fra et rigtigt barn. " Loven ville også tillade, at teenagere retsforfølges i ungdomsdomstole. Tirsdag afgav Kaylin Hayman, en overlevende og talskvinde for ofre fra Ventura County, som var fast medlem af en Disney Channel-serie mellem 10 og 14 år, vidneudsagn om, at hendes ansigt fra den tid var blevet overlejret på en voksens krop, der deltager i seksuelle handlinger. Hayman, der nu er 16 år gammel, udtrykte sin følelse af krænkelse og afsky over, at voksne personer havde set hende på en så frygtelig måde. Hun delte modigt: "Selvom det er skræmmende at tale om dette emne, ved jeg dybt inde i mig, at jeg er nødt til at dele min stemme. Jeg er nødt til at skabe bevidsthed og retfærdighed for dem i min situation. " Skaberen af de manipulerede billeder blev dømt i en føderal domstol. Men Nasarenko understregede, at Californien mangler en tilsvarende lovbestemmelse, der ville have gjort det muligt for ham at retsforfølge sagen lokalt. Forslaget blev vedtaget i forsamlingens udvalg for offentlig sikkerhed med bipartisan støtte og går nu videre til udvalget for privatliv og forbrugerbeskyttelse.