Samfundet stormer blindt frem mod en farlig fremtid, da den globale investering i AI øges dramatisk, med virksomheder og nationer, der deltager i en ny "våbenkapløb". Nvidia, en californisk chipsproducent, som er afgørende for AI-teknologien, er blevet verdens mest værdifulde virksomhed. Denne blomstrende trend, kaldet en "AI-mani", ser AI-komponenter som "nyt guld eller olie". Regeringer og virksomheder kæmper hårdt om at lede AI-udviklingen, hvilket ofte overser sikkerhedsforanstaltninger, retfærdig adgang og bæredygtighed. På AI-topmødet i Paris i februar 2025 blev en international aftale, der fremmede en "åben", "inkluderende" og "etisk" AI-tilgang, afvist af USA og Storbritannien, hvilket tydeliggør geopolitiske spændinger. Der opstår spørgsmål om, hvem der virkelig får gavn af dette hensynsløse kapløb — og til hvilken pris. En udvikler ved navn Lore afslørede, hvordan den open source-udgivelse af den store sprogmodel Llama udløste en "guldgraver"-situation. Lore brugte Llama til at skabe Chub AI, en hjemmeside hvor brugere kan rollespille voldelige og ulovlige handlinger med AI-bots, inklusive forstyrrende indhold med mindreårige og misogynistiske temaer. For så lidt som 50 kr. om måneden kan brugere få adgang til en "bordel", bemandet af piger under 15, beskrevet som en "verden uden feminisme", eller interagere med karakterer som Olivia, en 13-årig pige i hospitalskjorte, og Reiko, en "større søster", der er karakteriseret af upassende seksuelle scenarier. Denne multimillion-dollar-virksomhed er en af tusindvis, der cementerer misogyni i AI’s fundament. Andre steder udnytter mænd AI til at skabe og anvende falske, intime billeder til at terrorisere kvinder og piger, mens sex-robotter med foruroligende funktioner — herunder "tortur-simulerings"-tilstande — udvikles hurtigt. Millioner bruger AI-”kompagnoner”, der kan tilpasses som loyale, undergivende virtuelle kærester. Samtidig forstærker generativ AI alarmerende misogyni og racisme, hvilket er et bekymrende problem, da AI-genereret indhold snart vil dominere online rum. Kvinder risikerer at blive trukket tilbage af den samme teknologi, der er tiltænkt at fremme mænd, hvilket gentager et mønster set i de tidlige socialmedier. Social media begyndte også på samme måde, domineret af privilegerede hvide mænd og dybt forankret i objektiviseringen af kvinder — Mark Zuckerbergs første projekt, FaceMash, inviterede brugere til at bedømme tiltrækningen af kvindelige studerende, en forløber for Facebook. Kvinder med farvet hud, især Harvard’s Fuerza Latina og Black Women’s societies, rejste tidlige advarsler, men blev ignoreret.

Facebook’s hurtige vækst medførte samfundsmæssige skader, herunder brud på demokratiet og alvorlige påvirkninger af pigers mentale sundhed, opsummeret i Zuckerbergs tidlige mantra: "Flyt hurtigt og ødelæg ting". Da misbrug på disse platforme blev synligt, var virksomhederne for indbyrdes forbundne og profitable til at reformere, og politikere, der var påvirket af tech-lobbying, undlod at handle. Konsekvenserne har været tragiske: unge kvinder, der dør ved selvmord efter seksuel cybermobning, mange kvindelige politikere, der opgiver politisk karriere på grund af online had, og millioner, der dagligt udsættes for voldtægts- og døds trusler, doxxing, stalking samt racistiske og misogynistiske chikanerier. Vi fejlede i at forhindre krisen med social media, og risikoen for at gentage historien med AI på en langt større skala er reel. Peter Wang, medstifter af Anaconda, peger på, at samfundets manglende regulering af teknologien gennem årtier har været en stor svaghed og kalder social media for "dum AI" og en mislykket første kontakt. Kvinder og marginaliserede grupper har ofte været nødt til at anvende selvpålagt censur, pseudonymer og tavshed for at håndtere onlinehad — vaner, der vil følge med ind i AI-rummene. En undersøgelse fra Economist i 2020 viste, at næsten 90% af kvinder begrænser deres online aktiviteter på grund af trusler og vold, hvilket bidrager til uligheder i AI-brugen: 71% af mænd i alderen 18-24 bruger AI ugentligt, mens kun 59% af kvinder gør det. Da mænd stadig er de dominerende brugere, afspejler AI-udviklingen ofte deres præferencer. At afvise AI er ikke løsningen. I stedet skal reguleringer og sikkerhedsforanstaltninger integreres allerede under designfasen, før den offentlige lancering — ligesom standarder i andre sektorer. Leyla R Bravo, dengang præsident for Fuerza Latina, forsøgte i 2003 at advare mod FaceMash’s skadevirkninger, men blev ignoreret. Det håbes, at politiske ledere denne gang vil lytte. Farerne ved AI er ikke fjerne dystopiske fantasier, men virkelige problemer, der i øjeblikket påvirker kvinder og piger. At anerkende denne realitet kan motivere til at forme teknologien anderledes. Laura Bates, grundlægger af Everyday Sexism Project og forfatter til The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, understreger disse presserende problemer. Resourcer til støtte inkluderer Rape Crisis i Storbritannien (0808 802 9999), Rainn i USA (800-656-4673), og 1800Respect i Australien (1800 737 732). For selvmordsforebyggelse kan kontaktoplysninger findes hos Samaritans i Storbritannien og Irland (116 123), National Suicide Prevention Lifeline i USA (988), eller Lifeline i Australien (13 11 14). Internationale hjælpelinjer er listet på ibiblio. org/rcip/internl. html og befrienders. org.