Santa Barbara Independent opublikoval znova príbehy z CalMatters. org o štátnych a lokálnych otázkach ovplyvňujúcich čitateľov okresu Santa Barbara. Generálny prokurátor Kalifornie Rob Bonta oznámil vyšetrovanie spoločností Elon Musk’s X a xAI pre podozrenie, že ich technológie umožnili nelegálne šírenie nenásilnej alebo sexuálne explicitnej obsahu bez súhlasu v posledných týždňoch. Podľa správ spoločnosť xAI minulý mesiac aktualizovala svoj nástroj Grok AI, ktorý teraz obsahuje aj možnosti úpravy obrázkov, čo používatelia zneužívali na platforme X na odstránenie oblečenia z fotografií žien a detí. Bonta odsúdil nárast správ odhaľujúcich úlohu xAI pri vytváraní a zverejňovaní nechceného sexuálne explicitného obsahu online, pričom zdôraznil, aké škody spôsobuje. Vyzval spoločnosť, aby konala ihneď, a pozval obyvateľov Kalifornie, ktorí sú takýmito zobrazeniami postihnutí, aby ich nahlásili prostredníctvom webovej stránky generálneho prokurátora. Pri kontakte s xAI ich nevyjadrili k vyšetrovanie. Výskum agentúry Bloomberg ukázal, že používatelia platformy X, ktorí využívali Grok, zverejnili viac nechcených explicitných obrázkov než na akejkoľvek inej platforme. Musk sľúbil dôsledky tvorcom nelegálneho obsahu a nedávno obmedzil úpravu obrázkov v grok len na platených odberateľov. Nedávno prijatý zákon Kalifornie AB 621 stanovuje právnu zodpovednosť tvorcov a distribútorov „deepfake“ pornografie, pričom xAI sa zdá porušovať tento zákon, podľa právneho experta Sama Dorduliana. Členka snemovne Rebecca Bauer-Kahan, tvorkyňa zákona, uviedla, že zákon AB 621 bol navrhnutý na riešenie zneužívania, aké sa dnes dejú na platforme X, pričom zdôraznila vážne psychické a reputačné škody pre obete, vrátane detí zneužívaných v sexuálnom zneužívacom materiáli. Vyšetrovanie Bontu nasleduje podobné výzvy na vyšetrovanie zo strany guvernéra Gavina Newsoma, regulačné reakcie v EÚ a Indii či zákazy platformy X v Malajzii, Indonézii a potenciálne aj v Spojenom kráľovstve. S narastajúcim počtom stiahnutí aplikácie Grok na storách Apple a Google zákonodarcovia a obhajcovia volajú po úplnom zákaze tejto aplikácie. Dôvody dizajnu Grok a jeho reakcia na kontroverziu zostávajú nejasné, a to najmä v kontexte analýz, ktoré ho zaraďujú medzi najmenej transparentné AI systémy. Dôkazy o reálnej škode spôsobenej deepfakeami narastajú. V roku 2024 FBI varovala pred narastajúcimi prípadmi vydierania pomocou deepfakeov zameraných na mladých ľudí, s odkazom na samovraždy a sebapoškodzovanie. Audity odhalili, že v tréningových dátach AI sa nachádzali materiály sexuálneho zneužívania detí, čo umožnilo generovanie explicitných obrázkov.

Štúdia centra pre demokraciu a technológiu ukázala, že 15 % stredoškolákov je alebo bolo oboznámených s obrazmi sexuálneho zneužívania medzi rovesníkmi za posledný rok. Toto vyšetrovanie je súčasťou pokračujúcich snáh generálneho prokurátora Bontu chrániť mládež pred škodami spôsobenými AI. Minulý rok podporil zákon, ktorý zakazuje chatbotom viesť s mladistvými rozhovory o sebapoškodzovaní alebo sexe, a pripojil sa ku 44 štátom, ktoré požadovali vysvetlenie od spoločností ako Meta a OpenAI na nesprávne správanie chatbotov voči mládeži. Od roku 2019 Kalifornia prijala množstvo zákonov na ochranu pred deepfakeami. AB 621 upravuje a posilňuje predchádzajúce opatrenia tým, že umožňuje prokurátorom žalovať spoločnosti, ktoré “nedbanlivo” umožňujú nezaslúžené šírenie deepfakeov, a občanom umožňuje podávať žaloby na lokálnej úrovni. Tento zákon zvýšil možné odškodnenie zo 150 000 na 250 000 dolárov a ukladá pokuty do 25 000 dolárov za porušenie pre nevyhovujúce webové stránky. ďalšie zákony z roku 2024 (AB 1831 a SB 1381) rozširujú definíciu detskej pornografie o obsah vytvorený AI a vyžadujú od platform social media jasné procesy na odstraňovanie deepfakeov, pričom takéto príspevky sú považované za kybernetickú krádež identity. Zákon obmedzujúci používanie deepfakeov v kampaniach volieb bol minulý rok zrušený federálnym sudcom po žalobe od X a Musk. Napriek právnemu pokroku odborníci ako Dordulian tvrdia, že je potrebných viac reforiem, pretože preukázanie porušenia je ťažké, keď sú explicitné obrázky zdieľané v súkromí alebo nie sú široko distribuované. Príklady ako opatrovateľky zistili manipulované obrázky seba samej vytvorené klientom ukazujú, že súčasné zákony môžu nútiť obete spoliehať sa na žaloby z dôvodu nedbanlivosti namiesto špecifických zákonov proti deepfakeom. Obete upozornili na medzery medzi „vznikom“ a „šírením“ v existujúcom zákone, ktoré obmedzujú ich ochranu. Jennifer Gibson, spoluzakladateľka Psst, právnickej skupiny pre whistleblowerov v technológiách, uvádza, že zatiaľ čo Kalifornia chráni whistleblowerov oznamujúcich katastrofické riziká AI, takéto zákony nekryjú tých, ktorí odhaľujú škody spôsobené deepfakeami. Keby tieto ochrany zahŕňali deepfake, bývalí zamestnanci X, ktorí hlásili ilegálnu tvorbu explicitného obsahu pomocou Grok, by mohli získať právnu ochranu. Gibson zdôrazňuje naliehavú potrebu silnejších ochranných opatrení, aby mohli insideri nahlásiť predvídateľné zneužitia, zabezpečiť zodpovednosť firiem a verejnú bezpečnosť. Stručne povedané, Kalifornia aktívne rieši nebezpečenstvá spojené s tvorbou a šírením nechceného a explicitného deepfakeového obsahu prostredníctvom nedávnych vyšetrovaní a legislatívy, avšak aktivisti upozorňujú, že je potrebná ďalšia reforma a zvýšená transparentnosť, aby bolo možné účinne chrániť obete a stíhať spoločnosti.