En kalifornisk lagstiftning försöker förbjuda AI-genererad barnpornografi har tagit sig förbi ett första hinder i Sacramento. Lagförslaget, känt som AB 1831, gick igenom en höring i Assembly's Public Safety Committee och kommer att granskas av Privacy and Consumer Protection Committee nästa vecka. Syftet med detta lagförslag är att åtgärda ett kryphål i Kaliforniens befintliga lagar mot barnpornografi, som för närvarande kriminaliserar produktion, distribution och innehav av sexuellt utnyttjande av barnmaterialet där verkliga barn är inblandade, men som inte tar upp frågan om datorgenererade bilder som liknar minderåriga. Förespråkare för lagförslaget hävdar att AI-genererat material ofta använder sig av verkliga barns ansikten, vilket resulterar i ytterligare kränkning när dessa bilder sprids. Under höringen betonade Detektiv Heather Timmins från Orange County Sheriff's Department effekterna på drabbade barn och nämnde hur kränkande det är för dem att veta att dessa bilder har spridits på deras skolor. Ventura County District Attorney Erik Nasarenko, en medförfattare till lagstiftningen, betonade behovet av att snabbt hantera denna mörka sida av AI och poängterade att datorgenererat innehåll med minderåriga utgör verkligt övergrepp och inte bör betraktas som offerlösa. AB 1831 syftar till att förbjuda skapande, distribution och innehav av datorgenererat eller AI-genererat sexuellt utnyttjande av barnmaterialet. Förutom företrädare för rättsväsendet vittnade även den före detta Disney Channel-childaktören Kaylin Hayman på höringen.

Hayman, som nu är 16 år gammal, delade med sig av sin upplevelse att ha kontaktats av FBI förra året och informerats om att AI-genererade videor där hon förekommer i sexuella aktiviteter hade upptäckts. Hon uttryckte att hon kände sig kränkt och äcklad över vetskapen om att vuxna män hade bevittnat henne på ett så störande sätt. Nyliga incidenter med AI-aktiverat sexuellt utnyttjande har inträffat i södra Kalifornien. Till exempel blev fem åttondeklassstudenter från Beverly Hills' Beverly Vista Middle School avstängda förra månaden för att ha använt AI för att skapa nakenbilder av sina klasskamrater. Liknande incidenter med AI-missbruk har även rapporterats på Calabasas High School och Laguna Beach High School.