Een wetsvoorstel van de California Assembly dat tot doel heeft AI-gegenereerde kinderporno te verbieden, heeft een eerste hindernis in Sacramento overwonnen. Het wetsvoorstel, bekend als AB 1831, is goedgekeurd tijdens de hoorzitting van de Commissie voor Openbare Veiligheid van de Assembly en wordt volgende week beoordeeld door de Privacy- en Consumentenbeschermingscommissie. Het doel van dit wetsvoorstel is om een hiaat in de bestaande wetgeving in Californië aan te pakken, die momenteel de productie, distributie en bezit van kindermisbruikmateriaal met echte kinderen strafbaar stelt, maar het probleem van computer-gegenereerde afbeeldingen die op minderjarigen lijken over het hoofd ziet. Voorstanders van het wetsvoorstel betogen dat AI-gegenereerd materiaal vaak gebruik maakt van de gezichten van echte kinderen, waardoor er sprake is van verdere victimisering wanneer deze afbeeldingen worden verspreid. Tijdens de hoorzitting benadrukte Detective Heather Timmins van het Sheriff's Department van Orange County de impact op getroffen kinderen, waarbij ze opmerkte dat het vernederend voor hen is om te weten dat deze afbeeldingen zich verspreiden op hun schoolterreinen. Erik Nasarenko, de District Attorney van Ventura County en mede-sponsor van de wetgeving, benadrukte de noodzaak om deze duistere kant van AI snel aan te pakken en wees erop dat computergegenereerd materiaal met minderjarigen echt misbruik vormt en niet als slachtofferloos mag worden beschouwd. AB 1831 streeft naar het verbieden van het maken, verspreiden en bezitten van computergegenereerd of AI-gegenereerd kindermisbruikmateriaal. Naast vertegenwoordigers van wetshandhaving heeft voormalig kindacteur van Disney Channel, Kaylin Hayman, getuigenis afgelegd tijdens de hoorzitting.

Hayman, nu 16 jaar oud, deelde haar ervaring om vorig jaar door de FBI gecontacteerd te worden en te horen dat er AI-gegenereerde video's waren ontdekt waarin zij betrokken was bij seksuele activiteiten. Ze gaf aan zich geschonden en walging te voelen door het besef dat volwassen mannen haar op zo'n verontrustende manier hadden gezien. Recente incidenten met AI-gerelateerd seksueel misbruik hebben plaatsgevonden in Zuid-Californië. Zo werden vorige maand vijf studenten uit de achtste klas van Beverly Hills' Beverly Vista Middle School verwijderd nadat ze AI hadden gebruikt om naaktfoto's van hun klasgenoten te maken. Vergelijkbare incidenten met misbruik van AI zijn ook gemeld op Calabasas High School en Laguna Beach High School.