La società sta precipitando cieca verso un futuro pericoloso mentre gli investimenti mondiali in intelligenza artificiale crescono drasticamente, con aziende e nazioni impegnate in una nuova “corsa agli armamenti”. Nvidia, produttore californiano di chip fondamentale per la tecnologia AI, è diventata la società più preziosa al mondo. Questa tendenza in forte espansione, chiamata “Frenesia dell’AI”, paragona i componenti di AI al “nuovo oro o petrolio”. Governi e aziende competono ferocemente per guidare lo sviluppo dell’AI, spesso trascurando tutele, accesso equo e sostenibilità. All’incontro di Parigi sulla AI nel febbraio 2025, un accordo internazionale promosso per un approccio “aperto”, “inclusivo” ed “etico” all’AI è stato respinto dagli Stati Uniti e dal Regno Unito, evidenziando tensioni geopolitiche. Sorge il dubbio su chi benefici realmente di questa corsa sconsiderata—e a quale prezzo. Una sviluppatrice chiamata Lore ha rivelato come il rilascio open source del grande modello linguistico Llama abbia scatenato uno scenario da “corsa all’oro”. Lore ha usato Llama per creare Chub AI, un sito dove gli utenti interpretano atti violenti e illegali con bot di AI, inclusi contenuti disturbanti che coinvolgono minorenni e temi misogini. Con soli 5 dollari al mese, gli utenti possono accedere a un “bordello” gestito da ragazze minorenni, descritto come un “ mondo senza femminismo”, oppure interagire con personaggi come Olivia, una ragazza di 13 anni in ospedale, e Reiko, una “sorella maggiore” coinvolta in scenari sessuali inappropriati. Questa impresa da milioni di dollari è una delle migliaia che incorporano misoginia nelle fondamenta dell’AI. Altrove, gli uomini sfruttano l’AI per creare e armare immagini intime false per terrorizzare donne e ragazze, mentre robot sessuali con caratteristiche disturbanti—including modalità di “sogno violento”— sono sviluppati rapidamente. Milioni di persone usano “compagni” di AI personalizzabili come fedeli e sottomessi fidanzatini virtuali. Nel frattempo, l’AI generativa amplifica diffusamente misoginia e razzismo, una questione preoccupante dato che presto i contenuti generati dall’AI domineranno gli spazi online. Le donne rischiano di essere trascinate indietro dallo stesso progresso tecnologico che dovrebbe far avanzare gli uomini, ripetendo il pattern visto nei primi tempi dei social media. I social sono iniziati anch’essi dominati da uomini bianchi privilegiati e radicati nella oggettificazione delle donne—il primo progetto di Mark Zuckerberg, FaceMash, invitava gli utenti a valutare l’attrattiva delle studentesse, precursore di Facebook. Le donne di colore, come le società Harvard Fuerza Latina e delle donne nere, avevano sollevato preoccupazioni precoci ma erano state ignorate.

La rapida ascesa di Facebook ha portato danni sociali, tra cui democrazia frammentata e gravi impatti sulla salute mentale delle giovani, riassunti nel primo motto di Zuckerberg: “Muoviti velocemente e rompi le cose”. Quando le molestie su queste piattaforme sono diventate evidenti, le aziende erano troppo radicate e profittevoli per riformarsi, e i politici, influenzati dal lobbying tecnologico, non sono intervenuti. Le conseguenze sono state tragiche: giovani donne si sono suicidate dopo cyberbullismo sessuale, molte politiche sono state costrette a dimettersi a causa di insulti online, e milioni hanno subito minacce di stupro e morte, doxxing, stalking e molestie razziste e misogine. Non siamo riusciti a prevenire questa crisi con i social media e rischiamo di ripetere la storia con l’AI su una scala molto più ampia. Peter Wang, co-fondatore di Anaconda, sottolinea come la società abbia fallito nel regolamentare la tecnologia nel corso dei decenni, definendo i social media come “AI sciocca” e un primo fallimento. Donne e gruppi marginalizzati hanno spesso ricorso alla auto-censura, all’uso di pseudonimi e al silenzio per affrontare le molestie online, abitudini che si trasmetteranno negli spazi dell’AI. Uno studio del 2020 dell’Economist ha mostrato che quasi il 90% delle donne limita le proprie attività online a causa di minacce e abusi, contribuendo alle disparità nell’uso dell’AI: il 71% degli uomini tra i 18 e i 24 anni utilizza l’AI settimanalmente contro solo il 59% delle donne. Poiché gli uomini continuano ad essere gli utenti dominanti, il design dell’AI tende a riflettere le loro preferenze. Rifiutare l’AI non è la soluzione. Piuttosto, devono essere integrate regolamentazioni e tutele già nella fase di progettazione, prima del rilascio pubblico, similmente a quanto avviene in altri settori. Leyla R Bravo, allora presidente di Fuerza Latina, aveva cercato di avvertire sui danni di FaceMash nel 2003, ma era stata ignorata. Si spera che questa volta i leader politici ascoltino. I pericoli dell’AI non sono fantasie distopiche lontane, ma danni reali che colpiscono attualmente donne e ragazze. Riconoscere questa realtà potrebbe spingere a modellare la tecnologia in modo diverso. Laura Bates, fondatrice del progetto Everyday Sexism e autrice di The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, sottolinea queste questioni urgenti. Risorse di supporto includono Rape Crisis nel Regno Unito (0808 802 9999), Rainn negli USA (800-656-4673) e 1800Respect in Australia (1800 737 732). Per la prevenzione del suicidio, contattare Samaritans nel Regno Unito e Irlanda (116 123), la linea nazionale di prevenzione del suicidio negli USA (988), oppure Lifeline in Australia (13 11 14). I numeri di aiuto internazionali sono elencati su ibiblio. org/rcip/internl. html e befrienders. org.