Gesellschaft stürzt blind in eine gefährliche Zukunft, da die globale Investition in KI dramatisch steigt und Unternehmen sowie Nationen in einem neuen „Rüstungswettlauf“ konkurrieren. Nvidia, ein kalifornischer Chiphersteller, der für KI-Technologie kritisch ist, ist zum wertvollsten Unternehmen der Welt geworden. Dieser boomende Trend, den man eine „KI-Euphorie“ nennt, vergleicht KI-Komponenten mit „neuem Gold oder Öl“. Regierungen und Konzerne kämpfen heftig um die Führung bei der KI-Entwicklung, wobei oft Sicherheitsvorkehrungen, fairer Zugang und Nachhaltigkeit vernachlässigt werden. Auf dem Pariser KI-Gipfel im Februar 2025 wurde eine internationale Vereinbarung für einen „offenen“, „inklusive“ und „ethischen“ KI-Ansatz von den USA und Großbritannien abgelehnt, was die geopolitischen Spannungen unterstreicht. Fragen entstehen, wer tatsächlich von diesem unüberlegten Rausch profitiert – und zu welchem Preis. Eine Entwicklerin namens Lore enthüllte, wie die Open-Source-Veröffentlichung des großen Sprachmodells Llama eine „Goldrausch“-Szenario auslöste. Lore nutzte Llama, um Chub AI zu erstellen, eine Seite, auf der Nutzer gewalttätige und illegale Handlungen mit KI-Bots nachspielen, darunter verstörende Inhalte mit Minderjährigen und misogynistische Themen. Für nur 5 Dollar im Monat können Nutzer einen „Bordell“ besuchen, das von Mädchen unter 15 Jahren betrieben wird, beschrieben als eine „Welt ohne Feminismus“, oder mit Charakteren wie Olivia interagieren, einem 13-jährigen Mädchen im Krankenhauskleid, sowie Reiko, einer „älteren Schwester“, die durch unangemessene sexuelle Szenarien charakterisiert wird. Dieses Multi-Millionen-Dollar-Unternehmen ist eines von Tausenden, die Misogynie in die Grundlagen der KI einschreiben. Andernorts nutzen Männer KI, um gefälschte intime Bilder zu erstellen und zu weaponisieren, um Frauen und Mädchen zu terrorisieren, während schnell sogenannte Sexroboter mit verstörenden Funktionen – inklusive „Vergewaltigungssimulationen“ – entwickelt werden. Millionen verwenden KI-„Begleiter“, die anpassbar sind als treue, unterwürfige virtuelle Freundinnen. Zugleich verstärkt generative KI weitreichend Misogynie und Rassismus, ein besorgniserregendes Thema, da KI-generierte Inhalte bald die Online-Welten dominieren werden. Frauen laufen Gefahr, durch die Technologie, die eigentlich vorankommen soll, zurückgeworfen zu werden, ähnlich wie in den frühen Tagen sozialer Medien. Auch hier war die Dominanz privilegierter weißer Männer vorhanden, mit einer Objektifizierung der Frauen – Mark Zuckerbergs erstes Projekt, FaceMash, forderte Nutzer auf, die Attraktivität weiblicher Studenten zu bewerten, und war ein Vorgänger von Facebook. Frauen of Color, insbesondere die Harvard-Gruppen Fuerza Latina und Black Women, äußerten früh Bedenken, wurden aber ignoriert.

Der rasche Aufstieg von Facebook brachte gesellschaftliche Schäden: zerrissene Demokratien, ernsthafte Auswirkungen auf das psychische Wohl junger Mädchen, alles zusammengefasst in Zuckerbergs frühem Motto: „Beweg dich schnell und zerbrich Dinge. “ Als Missbrauch auf diesen Plattformen sichtbar wurde, waren die Unternehmen zu tief verstrickt und profitabel, um sich umzudenken, und Politiker, beeinflusst durch Tech-Lobbyismus, versäumten es zu handeln. Die Folgen sind tragisch: junge Frauen sterben durch Selbstmord nach sexualisierter Cybermobbing, viele weibliche Politikerinnen verlassen den Beruf wegen Online-Beschimpfungen, und Millionen ertragen Vergewaltigungs- und Todesdrohungen, Doxing, Stalking sowie rassistische und misogynistische Belästigungen. Wir haben es versäumt, diese Krise durch soziale Medien zu verhindern, und riskieren eine noch größere Wiederholung mit KI. Peter Wang, Mitbegründer von Anaconda, weist auf das Versagen der Gesellschaft hin, Technologie über Jahrzehnte zu regulieren, und nennt soziale Medien „dumme KI“ und eine gescheiterte erste Begegnung. Frauen und marginalisierte Gruppen greifen häufig auf Selbstzensur, Alias-Nutzung und Schweigen zurück, um mit Online-Belästigung umzugehen, und diese Muster werden sich auch bei KI fortsetzen. Eine Studie des Economist aus dem Jahr 2020 ergab, dass fast 90 % der Frauen ihre Online-Aktivitäten aufgrund von Drohungen und Missbrauch einschränken, was zu Ungleichheiten im KI-Gebrauch beiträgt: 71 % der Männer im Alter von 18–24 Jahren nutzen KI wöchentlich, bei den Frauen sind es nur 59 %. Da Männer weiterhin die dominierenden Nutzer sind, spiegelt sich dies in der Gestaltung der KI wider. AI abzulehnen ist keine Lösung. Stattdessen müssen Regulierungen und Sicherheitsvorkehrungen bereits bei der Entwicklung von KI integriert werden, bevor diese öffentlich veröffentlicht wird, vergleichbar mit Standards in anderen Branchen. Leyla R Bravo, damals Präsidentin von Fuerza Latina, versuchte 2003, vor den Gefahren von FaceMash zu warnen, wurde aber ignoriert. Es wird gehofft, dass diesmal politische Führer zuhören. Die Gefahren von KI sind keine weit entfernten dystopischen Fantasien, sondern tatsächliche Bedrohungen, die Frauen und Mädchen heute already betreffen. Das Bewusstsein darüber könnte die Anstrengungen anstoßen, die Technologie anders zu gestalten. Laura Bates, Gründerin des Projekts „Everyday Sexism“ und Autorin von „The New Age of Sexism: How the AI Revolution is Reinventing Misogyny“, unterstreicht diese dringlichen Themen. Unterstützungsangebote sind unter anderem Rape Crisis im UK (0808 802 9999), Rainn in den USA (800-656-4673) und 1800Respect in Australien (1800 737 732). Für Suizidprävention kontaktieren Sie die Telefonseelsorge in Großbritannien und Irland (116 123), die Nationale Suizidpräventions-Hotline in den USA (988) oder Lifeline in Australien (13 11 14). Internationale Notrufnummern sind auf ibiblio. org/rcip/internl. html und befrienders. org aufgeführt.