Il Procuratore Generale della California Rob Bonta ha emesso una lettera di cessazione e di non contrattazione a xAI, la società di Elon Musk, chiedendo di interrompere la creazione e la diffusione di immagini sessualmente esplicite non consensuali. Bonta ha evidenziato numerosi casi in cui xAI ha trasformato foto ordinarie di donne e bambini, vestiti, in raffigurazioni sessualmente esplicite o "scioccanti" senza consenso, violando leggi statali, inclusa un’apposita recente interdizione alla produzione di porno deepfake. Pur riconoscendo le recenti misure di xAI, come il limite all’uso di Grok AI in regioni dove è illegale generare immagini in bikini, Bonta ha messo in dubbio l’efficacia di tali interventi. La lettera di Bonta è giunta dopo l’annuncio di un’indagine sulla possibile violazione delle leggi da parte di xAI e della sua piattaforma social X, che avrebbe facilitato la diffusione di immagini sessuali non consensuali grazie alla nuova funzione di editing immagini lanciata lo scorso mese. Ha condannato l’aumento di contenuti espliciti prodotti da xAI come molestia e ha richiesto immediati provvedimenti correttivi. I californiani coinvolti possono segnalare le violazioni tramite il sito del procuratore generale. xAI non ha ancora commentato l’indagine. Ricercatori di Bloomberg hanno scoperto che gli utenti di Grok hanno pubblicato più immagini sessualmente esplicite non consensuali rispetto a qualsiasi altro sito web. In risposta, Musk ha promesso “conseguenze” per gli offender e Grok ha limitato la funzione di modifica delle immagini ai soli utenti paganti. Gli esperti legali, tra cui l’ex avvocato specializzato in crimini sessuali di Los Angeles, Sam Dordulian, ritengono che xAI e X possano violare la legge californiana AB 621 sul porno deepfake. La membro dell’Assemblea Rebecca Bauer-Kahan, autrice della legge, ha sottolineato che questa legge mira proprio a prevenire tali abusi, in particolare le manipolazioni di immagini di donne e bambini in contenuti espliciti, che causano gravi danni psicologici e reputazionali. Questa indagine si inserisce in un quadro più ampio di preoccupazioni globali, tra cui le richieste del Governatore Gavin Newsom, le reazioni normative in Europa e India, e i divieti di X in diversi Paesi. Con il crescente numero di download dell’app Grok, i legislatore chiedono ad Apple e Google di bandire l’app. Le motivazioni dietro il design di Grok e le sue risposte alle controversie restano poco chiare, con analisi che lo classificano tra i sistemi di intelligenza artificiale meno trasparenti. Le prove dei danni causati dai deepfake aumentano: l’FBI avverte di un aumento dei casi di estorsione che coinvolgono giovani portando anche al suicidio; materiali di abuso sessuale su minori sono stati trovati incorporati nei dati di addestramento dell’IA; sondaggi mostrano che molti studenti delle superiori hanno incontrato immagini sessualmente esplicite di coetanei.

L’indagine di Bonta segue altri sforzi precedenti per proteggere i minorenni dai contenuti dannosi dell’IA, tra cui il supporto a una legislazione che limita chatbot nelle discussioni su temi sessuali o autopunizione con utenti minorenni, e la partecipazione a lettere congiunte di più stati che fanno pressione su aziende come Meta e OpenAI sulla gestione inappropriata di chatbot con minori. Dal 2019 in California sono state approvate molte leggi a tutela delle persone dai deepfake. La AB 621, recentemente rafforzata, consente ai pubblici ministeri di agire contro le aziende che con negligenza favoriscono la diffusione di pornografia deepfake senza consenso, anche senza prove di danni effettivi alle vittime. Prevede danni potenziali fino a 250. 000 dollari e multe di 25. 000 dollari per ogni sito che viola, se non interviene entro 30 giorni. Le ulteriori leggi del 2024 hanno allargato la definizione di pornografia infantile per includere materiali generati dall’IA e hanno reso obbligatorio mettere in atto strumenti di rimozione rapida sui social media, trattando i deepfake come forme di furto di identità digitale. Tuttavia, una legge che vietava i deepfake nelle campagne elettorali è stata annullata a seguito di una causa intentata da X e Musk. Gli esperti legali osservano che, pur con l’apertura di nuove strade di tutela grazie alle leggi più recenti, restano sfide importanti. La prova della distribuzione, fondamentale per molte protezioni, può risultare difficile poiché gli utenti di applicazioni “nudify” spesso si conoscono e non condividono amplamente le immagini. Dordulian ha citato il caso di una tata il cui datore di lavoro ha creato immagini manipolate dalle sue foto Instagram, causando traumi emotivi, ma senza chiare vie legali sotto le leggi sui deepfake. Le vittime segnalano lacune simili, dove il semplice atto di creare immagini non è abbastanza regolamentato. Sostenitori come Jennifer Gibson di Psst, che offre assistenza legale gratuita a denunciatrici e denuncitori dell’IA, affermano che le leggi attuali sono insufficienti a proteggere chi espone pratiche dannose dell’IA. Una recente legge californiana che tutela i whistleblower copre solo rischi catastrofici che causano decine di morti o danni enormi, escludendo i danni derivanti dai deepfake. Se questa legge fosse più ampia, potrebbe aver garantito maggiori protezioni a ex dipendenti di X che hanno segnalato la generazione di contenuti sessuali illegali da parte di Grok. In sintesi, la California guida la legislazione contro i deepfake, ma le leggi e le tutele attuali hanno bisogno di ampliamenti e miglioramenti per affrontare efficacemente i rischi crescenti legati alle manipolazioni di immagini sessuali tramite l’IA, proteggere le vittime e favorire la responsabilità interna.