Samenleving rent blindelings op een gevaarlijke toekomst af terwijl de wereldwijde investeringen in AI drastisch toenemen, met bedrijven en naties die deelnemen aan een nieuw “wapenrace”. Nvidia, een Californisch chipbedrijf dat cruciaal is voor AI-technologie, is uitgegroeid tot het waardevolste bedrijf ter wereld. Deze bloeiende trend, die “AI-gekte” wordt genoemd, vergelijkt AI-componenten met “nieuw goud of olie”. Overheden en bedrijven concurreren fel om de leiding te nemen in AI-ontwikkeling, vaak ten koste van veiligheidsmaatregelen, eerlijke toegang en duurzaamheid. Tijdens de AI-top in Parijs in februari 2025 werd een internationaal akkoord dat een “open”, “inclusieve” en “ethische” aanpak van AI promootte door de VS en het VK afgewezen, wat de geopolitieke spanningen onderstreept. Vragen rijzen over wie echt profiteert van deze roekeloze race—en tegen welke prijs. Een ontwikkelaar genaamd Lore onthulde dat de open-source publicatie van het grote taalmodel Llama een “goudkoortjescenario” heeft veroorzaakt. Lore gebruikte Llama om Chub AI te creëren, een site waar gebruikers geweldadige en illegale acts kunnen naspelen met AI-bots, inclusief verontrustende inhoud met minderjarigen en misogynistische thema’s. Voor slechts $5 per maand kunnen gebruikers toegang krijgen tot een “bordeel” met meisjes onder de 15, beschreven als een “wereld zonder feminisme”, of interactie hebben met personages zoals Olivia, een 13-jarig meisje in ziekenhuiskleed, en Reiko, een “oudere zus” met ongepaste seksuele scenario’s. Dit bedrijf dat miljoenen dollars oplevert, is één van de duizenden die misogynie in de fundamenten van AI verankeren. In andere regio’s gebruiken mannen AI om nepfoto’s en -video’s te maken en te bewapenen om vrouwen en meisjes te terroriseren, terwijl seksrobots met verontrustende functies—inclusief “ verkrachtingssimulatie”-modi—snel worden ontwikkeld. Miljoenen maken gebruik van AI-“gezelschappen” die als loyale, onderdanige virtuele vriendinnen kunnen worden aangepast. Tegelijkertijd versterkt generatieve AI wereldwijd misogynie en racisme, een zorgwekkend fenomeen nu AI-gegenereerde inhoud snel dominantie krijgt op online platforms. Vrouwen lopen het risico door deze technologie te worden teruggeduwd, terwijl diezelfde technologie bedoeld was om mannen vooruit te helpen, waarbij een patroon uit de begintijd van sociale media zich herhaalt. Sociale media begonnen ook, gedomineerd door bevoordeelde witte mannen en gebaseerd op de objectivering van vrouwen—mark Zuckerberg’s eerste project, FaceMash, stelde gebruikers in staat om de aantrekkelijkheid van vrouwelijke studenten te rangschikken, wat een voorloper was van Facebook. Vrouwen van kleur, waaronder Harvard’s Fuerza Latina en Black Women’s societies, waarschuwden al vroeg, maar werden genegeerd.

De snelle opkomst van Facebook leidde tot maatschappelijke schade, waaronder verkregen democratie en ernstige effecten op de mentale gezondheid van jonge meisjes, samengevat in Zuckerberg’s vroege mantra: “Move fast and break things. ” Toen misbruik op deze platforms duidelijk werd, waren bedrijven te verankerd en winstgevend om te hervormen, en politici, beïnvloed door tech-lobby’s, faalden om te handelen. De gevolgen zijn tragisch: jonge vrouwen die zelfmoord plegen na seksuele cyberpesterijen, veel vrouwelijke politici die stoppen vanwege online haat, en miljoenen die bedreigd worden met verkrachting en dood, met doxing, stalking en racistische, misogynistische intimidatie. We hebben met sociale media deze crisis niet kunnen voorkomen en lopen het risico om de geschiedenis te herhalen met AI op een veel grotere schaal. Peter Wang, mede-oprichter van Anaconda, wijst op de falen van de samenleving om technologie te reguleren gedurende tientallen jaren, en noemt sociale media “domme AI” en een mislukte eerste kennismaking. Vrouwen en gemarginaliseerde groepen hebben zich vaak tot zelfcensuur, aliasgebruik en het stilzwijgen gewend om om te gaan met online intimidatie; deze gewoonten zullen ook in AI-omgevingen doorwerken. Een studie van The Economist uit 2020 wees uit dat bijna 90% van de vrouwen hun online activiteit beperkt uit angst voor bedreigingen en misbruik, wat bijdraagt aan ongelijkheid in AI-gebruik: 71% van de mannen van 18-24 jaar gebruikt AI wekelijks, tegenover slechts 59% van de vrouwen. Aangezien mannen de dominantie blijven houden, weerspiegelt AI-ontwerp vaak hun voorkeuren. Het afwijzen van AI is niet de oplossing. In plaats daarvan moeten regelgeving en waarborgen tijdens de ontwerpfase van AI worden geïntegreerd, voordat deze publiek wordt gemaakt, vergelijkbaar met standaarden in andere sectoren. Leyla R Bravo, toen president van Fuerza Latina, probeerde in 2003 de schadelijke effecten van FaceMash te waarschuwen, maar werd genegeerd. Het is te hopen dat politieke leiders deze keer zullen luisteren. De gevaren van AI zijn geen verre dystopische fantasieën, maar reële schade die vrouwen en meisjes nu al treft. Het erkennen van deze realiteit zou de inzet kunnen vergroten om technologie anders te vormen. Laura Bates, oprichter van het Everyday Sexism Project en auteur van The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, benadrukt deze dringende problemen. Hulpmiddelen voor ondersteuning zijn onder andere Rape Crisis in het Verenigd Koninkrijk (0808 802 9999), Rainn in de VS (800-656-4673), en 1800Respect in Australië (1800 737 732). Voor zelfmoordpreventie kun je contact opnemen met Samaritans in het VK en Ierland (116 123), de National Suicide Prevention Lifeline in de VS (988), of Lifeline in Australië (13 11 14). Internationale hulplijnen vind je op ibiblio. org/rcip/internl. html en befrienders. org.