L'Independent di Santa Barbara ripubblica storie di CalMatters. org che trattano questioni statali e locali che interessano i lettori della contea di Santa Barbara. Il procuratore generale della California Rob Bonta ha annunciato un'indagine su Elon Musk’s X e xAI per accuse secondo cui le loro tecnologie avrebbero consentito la diffusione illegale di immagini nudi o sessualmente esplicite non consensuali nelle ultime settimane. xAI avrebbe aggiornato il suo strumento Grok AI lo scorso mese, includendo capacità di modifica delle immagini, che gli utenti hanno sfruttato su X per rimuovere gli abiti da foto di donne e bambini. Bonta ha condannato l'aumento di segnalazioni che rivelano il ruolo di xAI nella produzione e pubblicazione di contenuti sessualmente espliciti non consensuali online, sottolineando il molestamento che ciò provoca. Ha esortato l'azienda ad agire immediatamente e invitato gli abitanti della California colpiti da tali rappresentazioni a denunciarle attraverso il sito web del procuratore generale. Quando è stato contattato, xAI non ha commentato sull'indagine. Una ricerca di Bloomberg ha indicato che gli utenti di X che utilizzano Grok hanno pubblicato più immagini sessualmente esplicite non consensuali rispetto a qualsiasi altra piattaforma. Musk ha promesso conseguenze per i creatori di contenuti illegali e di recente Grok ha limitato la modifica delle immagini ai soli abbonati paganti. Una legge recentemente approvata in California, l’AB 621, rende legalmente responsabili i creatori e i distributori di pornografia "deepfake", e xAI sembra violare questa legge, secondo l’esperto legale Sam Dordulian. La rappresentante Rebecca Bauer-Kahan, autrice della legge, ha dichiarato che l’AB 621 è stato ideato per affrontare abusi come quelli ora avvenuti su X, evidenziando i gravi danni psicologici e reputazionali alle vittime, tra cui i bambini sfruttati in materiale di abuso sessuale. L’indagine di Bonta segue richieste di investigazioni simili del governatore Gavin Newsom, reazioni normative nell’UE e in India, e divieti su X in Malesia, Indonesia e potenzialmente nel Regno Unito. Con il crescente numero di download dell’app Grok su App Store e Google Play, legislatori e gruppi di advocacy invitano queste aziende a bannare l’applicazione. Le ragioni dietro le scelte di progettazione di Grok e la risposta alle controversie restano poco chiare, aggravate da analisi che la collocano tra i sistemi di intelligenza artificiale meno trasparenti. Le prove di danni reali causati dai deepfake stanno aumentando. Nel 2024, l’FBI ha avvertito di un incremento di casi di estorsione che coinvolgono deepfake rivolti a giovani, collegati a autolesionismo e suicidi. Audit hanno scoperto materiale di abuso sessuale di minori nei dati di addestramento dell’IA, consentendo la generazione di immagini esplicite.

Un sondaggio del Center for Democracy and Technology ha rilevato che il 15% degli studenti delle superiori conosce o ha visto immagini sessualmente esplicite di pari nel corso dell’ultimo anno. Questa indagine si inserisce negli sforzi continui del procuratore generale Bonta per proteggere i giovani dai danni dell’IA. Lo scorso anno ha sostenuto una legge che vieta ai chatbot di coinvolgere minorenni in conversazioni su autolesionismo o contenuti sessualmente espliciti, e si è unito a 44 stati nella richiesta di spiegazioni a società come Meta e OpenAI riguardo a comportamenti inappropriati dei chatbot con i minori. Dal 2019, la California ha emanato diverse leggi per proteggere contro i deepfake. L’AB 621 modifica e rafforza le misure precedenti consentendo ai pubblici ministeri di citare in giudizio le aziende che facilitano “in modo imprudente” la distribuzione di deepfake non consensuali, permettendo alle vittime di agire legalmente attraverso le autorità locali. La legge aumenta i danni potenziali da 150. 000 a 250. 000 dollari e introduce multe di 25. 000 dollari per violazione su siti web non conformi. Leggi aggiuntive del 2024 (AB 1831 e SB 1381) ampliano la definizione di pornografia infantile per includere materiale generato dall’IA e obbligano le piattaforme social a offrire procedure di rimozione semplici per i deepfake, catalogandoli come furto d’identità digitale. Un’altra legge, che vietava l’uso di deepfake nelle elezioni, è stata bocciata da un giudice federale l’anno scorso dopo una causa contro X e Musk. Nonostante i progressi legali, esperti come Dordulian sostengono che siano necessarie ulteriori riforme, poiché dimostrare le violazioni è difficile quando le immagini esplicite vengono condivise privatamente o non diffuse pubblicamente. Casi come quello di una tata che scopre immagini manipolate di sé stessa create da un cliente mostrano come le leggi attuali possano costringere le vittime a fare affidamento su accuse di negligenza anziché su normative specifiche sui deepfake. Le vittime hanno evidenziato lacune tra “creazione” e “distribuzione” nella legislazione esistente, limitando le protezioni. Jennifer Gibson, cofondatrice di Psst, un gruppo legale pro bono per whistleblower tecnologici, sottolinea che, mentre la California protegge i whistleblower che affrontano rischi catastrofici legati all’IA, tali leggi non coprono chi espone i danni dei deepfake. Se queste protezioni avessero compreso i deepfake, ex dipendenti di X che hanno segnalato la generazione di contenuti illegali da parte di Grok potrebbero aver ricevuto tutele legali per aver fatto denuncia. Gibson mette in evidenza l’urgenza di adottare protezioni più forti per consentire agli insider di denunciare abusi prevedibili, garantendo responsabilità aziendale e sicurezza pubblica. In sintesi, la California sta affrontando con determinazione i pericoli legati alla creazione e distribuzione di immagini deepfake non consensuali e esplicite attraverso recenti indagini e leggi, ma gli sostenitori sottolineano che sono necessarie ulteriori riforme e maggiore trasparenza per proteggere efficacemente le vittime e responsabilizzare le aziende.