De Santa Barbara Independent plaatst opnieuw verhalen van CalMatters. org over staats- en lokale kwesties die lezers in Santa Barbara County beïnvloeden. Openbaar aanklager van Californië Rob Bonta kondigde een onderzoek aan naar Elon Musk’s X en xAI vanwege beschuldigingen dat hun technologieën de illegale verspreiding van ons consentueel naakt- of seksuele beelden mogelijk maakten in de afgelopen weken. xAI zou vorige maand zijn Grok AI-tool hebben bijgewerkt om beeldbewerkingsmogelijkheden toe te voegen, die gebruikers op X misbruikten om kleding van foto’s van vrouwen en kinderen te verwijderen. Bonta veroordeelde de toename van meldingen die de rol van xAI bij het produceren en plaatsen van niet-consentuele seksuele expliciete inhoud online aantoonden, en benadrukte de intimidatie die hierdoor wordt veroorzaakt. Hij drong aan op onmiddellijke actie van het bedrijf en nodigde Californië’ers die geraakt zijn door dergelijke beelden uit deze te melden via de website van het Openbaar Ministerie. xAI kwam niet met een reactie op het onderzoek toen het werd benaderd. Onderzoek van Bloomberg wees uit dat X-gebruikers die Grok inzetten, meer niet-consentuele expliciete beelden plaatsten dan op enig ander platform. Musk beloofde consequenties voor illegale contentmakers, en recent beperkte Grok het bewerken van beelden tot betalende abonnees. Een recent ingevoerde Californië-wet, AB 621, houdt makers en distributeurs van “deepfake” porno wettelijk aansprakelijk, en volgens juridische expert Sam Dordulian schendt xAI deze wet blijkbaar. De wetsontwerper, Assembleelid Rebecca Bauer-Kahan, verklaarde dat AB 621 is bedoeld om misstanden zoals die nu plaatsvinden op X aan te pakken, en benadrukte de ernstige psychologische en reputatiedamage voor slachtoffers, waaronder kinderen die worden uitgebuit in seksueel misbruikmateriaal. Bonta’s onderzoek volgt op soortgelijke oproepen tot onderzoek door gouverneur Gavin Newsom, regulatoire terugslag in de EU en India, en verboden op X in Maleisië, Indonesië en mogelijk het VK. Nu het aantal downloads van de Grok-app op Apple- en Google-winkels toeneemt, doen wetgevers en voorstanders een beroep op deze bedrijven om de applicatie te verbieden. De achterliggende redenen voor de ontwerpkeuzes van Grok en de reactie op de controverse blijven onduidelijk, vooral omdat analyses het beschouwen als een van de minst transparante AI-systemen. Bewijzen van daadwerkelijke schade door deepfakes nemen toe. In 2024 waarschuwde de FBI voor stijgende gevallen van afpersing met deepfakes waarbij jongeren worden betrokken, gekoppeld aan zelfbeschadiging en zelfmoord. Audits vonden materiaal van kindermisbruik in AI-trainingsgegevens, wat het genereren van expliciete beelden mogelijk maakte.

Een enquête van het Center for Democracy and Technology wees uit dat 15% van middelbare scholieren in het afgelopen jaar seksuele expliciete beelden van leeftijdsgenoten kent of heeft gezien. Dit onderzoek sluit aan bij de voortdurende inspanningen van advocaat-generaal Bonta om jongeren te beschermen tegen AI-gerelateerde schadelijke effecten. Vorig jaar steunde hij een wetsvoorstel dat chatbots verbiedt om met minderjarigen over zelfbeschadiging of seksuele expliciete onderwerpen te praten, en sloot zich aan bij 44 staten in het eisen van uitleg van bedrijven zoals Meta en OpenAI over ongepaste chatbot-gedragingen met minderjarigen. Sinds 2019 heeft Californië meerdere wetten aangenomen ter bescherming tegen deepfakes. AB 621 wijzigt en versterkt eerdere maatregelen door aanklagers toe te staan bedrijven aan te klagen die “roekeloos” niet-consentuele deepfake-distributie faciliteren, waardoor individuen via hun lokale autoriteiten rechtsmaatregelen kunnen nemen. De wet verhoogt de potentiële schadevergoeding van $150. 000 naar $250. 000 en legt boetes van $25. 000 per overtreding op voor niet-nalevingswebsites. Andere wetten in 2024 (AB 1831 en SB 1381) verbreden de definitie van kinderporno om AI-gegenereerd materiaal op te nemen en verplichten sociale mediaplatforms tot het aanbieden van eenvoudige verwijderingsprocedures voor deepfakes, waarbij deze berichten worden gecategoriseerd als digitale identiteitsdiefstal. Een wet die het gebruik van deepfakes in verkiezingen verbiedt, werd vorig jaar door een federale rechter ongeldig verklaard na een rechtszaak van X en Musk. Ondanks juridische vorderingen vinden experts zoals Dordulian dat meer hervormingen nodig zijn, omdat het bewijzen van overtredingen moeilijk is wanneer expliciete beelden privé worden gedeeld of niet breed worden verspreid. Zaken zoals een oppas die gemanipuleerde beelden van zichzelf ontdekt, gemaakt door een cliënt, illustreren dat huidige wetten slachtoffers kunnen dwingen te vertrouwen op nalatigheidsclaims in plaats van specifieke deepfake-wetgeving. Slachtoffers merken dat er hiaten bestaan tussen “schepping” en “verspreiding” in de bestaande wet, wat de bescherming beperkt. Jennifer Gibson, mede-oprichter van Psst, een gratis juridische organisatie voor tech-whistleblowers, meldt dat terwijl Californië klokkenluiders beschermt die catastrophic AI-risico’s melden, dergelijke wetten niet dekken wie deepfake-gerelateerde schade aan het licht brengt. Had deze beschermingen deepfakes omvat, dan hadden voormalige X-medewerkers die rapporten over illegale expliciete inhoud van Grok maakten, mogelijk juridische bescherming gekregen voor het melden. Gibson benadrukt dat dringend behoefte is aan betere bescherming zodat insiders vermoedelijke misstanden kunnen melden en zo bedrijfsaansprakelijkheid en openbare veiligheid waarborgen. Kortom, Californië pakt de gevaren van door AI mogelijk gemaakte creatie en distributie van niet-consentuele en expliciete deepfake-beelden krachtig aan via recente onderzoeken en wetgeving, maar voorstanders benadrukken dat verdere hervormingen en meer transparantie essentieel zijn om slachtoffers effectief te beschermen en bedrijven ter verantwoording te roepen.