Samhället rusar blint mot en farlig framtid i en period av dramatisk ökning av globala investeringar i AI, där företag och nationer deltar i ett nytt ”vapenrace”. Nvidia, en kalifornisk chipstillverkare som är avgörande för AI-teknologin, har blivit världens värdefullaste företag. Denna blomstrande trend, kallad en ”AI-hejdundrande”, jämför AI-komponenter med ”nytt guld eller olja”. Regeringar och företag tävlar intensivt om att leda utvecklingen av AI, ofta på bekostnad av säkerhetsåtgärder, rättvis tillgång och hållbarhet. På AI-initiativet i Paris i februari 2025 röstades ett internationellt avtal som främjade en ”öppen”, ”inkluderande” och ”etisk” AI-strategi ner av USA och Storbritannien, vilket belyser geopolitiska spänningar. Frågor väcks om vilka som faktiskt drar nytta av denna hänsynslösa fart och till vilket pris. En utvecklare vid namn Lore avslöjade hur den öppen källkod-släppet av den stora språkmodellen Llama utlöste en ”guldgruva”-situation. Lore använde Llama för att skapa Chub AI, en sajt där användare spelar roller med AI-botar som är involverade i våldsamma och olagliga handlingar, inklusive störande innehåll med minderåriga och misogyna teman. För så lite som 5 dollar i månaden kan användare få tillgång till ett ”bordell” bemannat av flickor under 15 år, beskrivet som en ”värld utan feminism”, eller interagera med karaktärer som Olivia, en 13-årig flicka i sjukhusklänning, och Reiko, en ”äldre syster” med olämpliga sexuella scenarion. Detta multimiljardföretag är ett av tusentals som sätter misogyni i AI:s grundvalar. På andra ställen utnyttjar män AI för att skapa och vapenisera falska intima bilder för att skrämma kvinnor och flickor, samtidigt som sexrobotar med störande funktioner—inklusive ”våldtäkts-simuleringslägen”—snabbt utvecklas. Miljoner använder AI-”kamrater” som kan anpassas till lojala, undergivna virtuella flickvänner. Samtidigt förstärker generativ AI utbredd misogyni och rasism, vilket är oroande då AI-genererat innehåll snart kommer att dominera på nätet. Kvinnor riskerar att dras bakåt av den teknik som är tänkt att driva män framåt, vilket speglar ett mönster från de tidiga sociala mediernas dagar. Sociala medier började likadant, dominerade av privilegierade vita män och byggda på objektifiering av kvinnor—Mark Zuckerbergs första projekt, FaceMash, bjöd användare att rangordna kvinnliga studerandes attraktivitet, ett förstadium till Facebook. Kvinnor med färgad bakgrund, särskilt Harvard’s Fuerza Latina och black women-grupper, höjde tidiga farhågor men blev förbisedda.

Facebooks snabba tillväxt orsakade samhällsskador, inklusive splittrad demokrati och allvarliga konsekvenser för unga girls mentala hälsa, samlat i Zuckerbergs tidiga motto: ”Röra snabbt och bryta saker. ” När missbruk på dessa plattformar blev tydligt var företagen för djupt insatta och vinstdrivande för att reformeras, och politiker, påverkade av tech-lobbying, misslyckades med att agera. Konsekvenserna har varit tragiska: unga kvinnor som tagit sitt liv efter cybersexuella trakasserier, många kvinnliga politiker som lämnat sina positioner på grund av onlinemisshandel, och miljontals som utsätts för våldtäkts- och dödshot, utsatta för doxxing, stalkning och rasistiska, misogyna trakasserier. Vi misslyckades med att förhindra denna kris med sociala medier och riskerar att upprepa historien med AI i större skala. Peter Wang, medgrundare av Anaconda, pekar på samhällets misslyckande att reglera teknik under decennier och kallar sociala medier för ”dum AI” och ett misslyckat första möte. Kvinnor och marginaliserade grupper har ofta använt självmoderering, alias och tystnad för att hantera onlinehats, och dessa vanor kommer att följa med in i AI-ru Smart. En studie från The Economist 2020 visade att nästan 90 % av kvinnor begränsar sin onlinenärvaro på grund av hot och övergrepp, vilket bidrar till skillnader i AI-användning: 71 % av män i åldern 18–24 använder AI varje vecka, jämfört med bara 59 % av kvinnor. Eftersom män förblir de dominerande användarna tenderar AI:s design att spegla deras preferenser. Att förkasta AI är inte lösningen. Istället måste regler och skydd in integreras redan i AI:s designfas innan allmänheten får tillgång, liknande branschstandarder i andra sektorer. Leyla R Bravo, dåvarande ordförande för Fuerza Latina, ville redan 2003 varna för FaceMashes skador, men blev ignorerad. Det är hoppfullt att politiska ledare denna gång kommer att lyssna. Farorna med AI är inte avlägsna dystopiska fantasier, utan riktiga skador som redan påverkar kvinnor och flickor. Att erkänna denna verklighet kan driva på insatser att forma teknologin på ett annorlunda sätt. Laura Bates, grundare av Everyday Sexism Project och författare till The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, betonar dessa angelägna frågor. Stödresurser inkluderar Rape Crisis i Storbritannien (0808 802 9999), Rainn i USA (800-656-4673) och 1800Respect i Australien (1800 737 732). För självmordsprevention kontakta Samaritans i Storbritannien och Irland (116 123), National Suicide Prevention Lifeline i USA (988), eller Lifeline i Australien (13 11 14). Internationella hjälplinjer finns listade på ibiblio. org/rcip/internl. html och befrienders. org.