Efter att flera rapporter har framkommit om skapandet av barnpornografi av artificiell intelligens i Kalifornien har Erik Nasarenko, åklagaren i Ventura County, verkat för en förändring av delstatens lagar för att skydda barn som alltmer utsätts för missbruk av denna teknik. Nasarenko fick inledningsvis ett tips i december förra året om en person som digitalt hade framställt grafiska bilder med en minderårig flicka som är involverad i sexuella handlingar med en vuxen man. Men på grund av befintliga smutthål i Kaliforniens lagar upptäckte han att han inte kunde väcka åtal när det gällde bilder av barn som genererats med hjälp av AI. Förra året rapporterade det amerikanska nationella centret för försvunna och exploaterade barn att man mottagit 4, 700 fall av AI-genererade fotografier som visar sexuell exploatering av barn. Vissa grund- och gymnasieskolor i Los Angeles har till och med uteslutit elever för att de använt sig av AI för att skapa sexuellt olämpliga bilder av sina kamrater. Under de senaste fem månaderna har Nasarenkos kontor mottagit sex tips om bilder som visar minderåriga som deltar i sexuella aktiviteter. I takt med att förekomsten av AI-genererad barnpornografi fortsätter att öka anser lagstiftare och åklagare i Kalifornien att det är nödvändigt för delstaten att agera för att skydda barn och hålla förövare ansvariga. Förslag till lag 1831, sponsrat av församlingsledamot Marc Berman (D-Menlo Park) och med-kommenderat av Nasarenko, syftar till att göra det olagligt att äga, distribuera och skapa AI-genererade sexuellt explicita bilder av barn. Lagen skulle också omfatta bilder som avbildar barn realistiskt men inte är fotografier.

SAG-AFTRA och California District Attorney's Association samarbetar också om detta förslag till lag. Under sitt vittnesbörd i församlingsutskottet för allmän säkerhet uttalade Berman: "Med AI:s snabba framsteg har denna teknik använts för att skapa högrealistiska bilder av barnsexuell misshandel som i princip inte går att skilja från en verkligt barn. " Lagen skulle även göra det möjligt att åtala tonåringar i ungdomsdomstolar. I tisdags vittnade Kaylin Hayman, en överlevande och förespråkare för offer från Ventura County som var en regelbunden medverkande i en Disney Channel-show mellan 10 och 14 års ålder, om att hennes ansikte från den tiden hade manipulerats och satts på en vuxen kropp som utförde sexuella handlingar. Hayman, som nu är 16 år gammal, uttryckte sin känsla av kränkning och avsky och visste att vuxna hade sett henne på ett sådant hemskt sätt. Hon delade modigt med sig av följande: "Att prata om detta ämne är skrämmande, men djupt inom mig vet jag att jag måste dela min röst. Jag måste skapa medvetenhet och rättvisa för dem i min position. " Skaparen av de manipulerade bilderna blev dömd i federal domstol. Nasarenko betonade dock att Kalifornien saknar en motsvarande lagstiftning som skulle ha möjliggjort att åtala fallet lokalt. Förslaget till lag godkändes framgångsrikt av församlingsutskottet för allmän säkerhet med tvärpartistöd och går nu vidare till utskottet för integritet och konsumentskydd.