Et californisk lovforslag, der sigter mod at forbyde AI-genereret børnepornografi, har ryddet en indledende forhindring i Sacramento. Lovforslaget, kendt som AB 1831, er blevet godkendt i Assembly's Public Safety Committee-høring og vil blive gennemgået af Privacy and Consumer Protection Committee næste uge. Formålet med dette lovforslag er at lukke et smuthul i Californiens eksisterende love om børnepornografi, som i øjeblikket kriminaliserer produktion, distribution og besiddelse af materiale om seksuelt misbrug af børn med involvering af virkelige børn, men ikke tager højde for problemet med computer-genererede billeder, der ligner mindreårige. Fortalere for lovforslaget hævder, at AI-genereret materiale ofte bruger ansigterne fra rigtige børn, hvilket resulterer i yderligere mishandling, når disse billeder bliver spredt. Under høringen understregede detektiv Heather Timmins fra Orange County Sheriff's Department påvirkningen på de berørte børn og nævnte, hvordan det er ydmygende for dem at vide, at disse billeder er blevet spredt på deres skoler. Ventura County distriktsadvokat Erik Nasarenko, der er medudskylder af lovgivningen, understregede behovet for at tackle denne mørke side af AI hurtigt og påpegede, at AI-genereret indhold med mindreårige udgør reel misbrug og ikke bør betragtes som uden ofre. AB 1831 søger at forbyde skabelse, distribution og besiddelse af computer-genereret eller AI-genereret materiale om seksuelt misbrug af børn. Udover repræsentanter for retshåndhævelse afgav den tidligere Disney Channel-barneskuespiller Kaylin Hayman vidneudsagn under høringen.

Hayman, der nu er 16 år gammel, delte sin oplevelse af at blive kontaktet af FBI sidste år og blev informeret om, at AI-genererede videoer med hendes lighed i seksuelle aktiviteter var blevet opdaget. Hun udtrykte følelsen af at være krænket og afsky ved tanken om, at voksne mænd havde set hende på en så forstyrrende måde. Nylige hændelser med AI-baseret seksuelt misbrug har fundet sted i det sydlige Californien. For eksempel blev fem ottendeklasseselever fra Beverly Vista Middle School i Beverly Hills ekskluderet sidste måned for at bruge AI til at oprette nøgenbilleder af deres klassekammerater. Lignende episoder med misbrug af AI er også blevet rapporteret på Calabasas High School og Laguna Beach High School.