A társadalom vakon rohan bele egy veszélyes jövőbe, miközben a globális AI-beruházások drámaian növekednek, és cégek, valamint nemzetek egy új „fegyverkezési versenybe” kezdenek. A kaliforniai Nvidia, amely kulcsszerepet tölt be az AI-technológiában, a világ legértékesebb vállalatává vált. Ez a pezsgő tendencia, amit „AI-felkelésnek” neveznek, az AI-alkatrészeket „új aranynak vagy kormolajnak” hasonlítja. A kormányok és vállalatok hevesen versenyeznek az AI fejlesztésének vezetéséért, gyakran figyelmen kívül hagyva a biztonsági intézkedéseket, az egyenlő hozzáférést és a fenntarthatóságot. A februári 2025-ös párizsi AI csúcson egy nemzetközi megállapodást, amely az „nyitott”, „inkluzív” és „etikus” AI megközelítést szorgalmazta, az USA és az Egyesült Királyság elutasított, ezzel hangsúlyozva a geopolitikai feszültségeket. Kérdések merülnek fel arról, ki is igazán profitál ebből a felelőtlen rohamból – és milyen áron. Egy Lore nevű fejlesztő feltárta, hogy a Llama nagy nyelvi modell nyílt forráskódú kiadása egy „aranyásó” szcenáriót váltott ki. Lore a Llamát felhasználva létrehozta a Chub AI-t, egy oldalt, ahol a felhasználók erőszakos és illegális cselekedeteket játszhatnak el AI-botokkal, beleértve bizarr tartalmakat kiskorúkról és misogynisztikus témákról. Már havi 5 dollárért hozzáférhetnek egy „rendezvényszigethez”, ahol lányok általában 15 év alattiak dolgoznak, és amelyet „a feminizmus nélküli világnak” írnak le, vagy interakcióba léphetnek olyan karakterekkel, mint Olivia, egy 13 éves kórházi ruhába öltözött lány, és Reiko, egy „idősebb lánytestvér”, akit helytelen szexuális forgatókönyvek jellemeznek. Ez az évek óta milliárdos vállalkozás csak egy a sok közül, amelyek a misogynia alapjait szövik be az AI-ba. Másutt a férfiak az AI-t kihasználva hamis, intim képeket készítenek és weaponizálnak, hogy terrortubarzanak nőket és lányokat, miközben gyorsan fejlődnek az olyan szexrobotok, amelyek zavaró jellemzőkkel bírnak – köztük „ nemi erőszak szimuláció” módokkal. Tömegek használnak személyre szabott AI-társakat, mint hűséges, alárendelt virtuális barátnőket. Eközben a generatív AI széles körben fokozza a misogyniát és a rasszizmust, ami aggodalomra ad okot, mivel hamarosan az online terek uralni fogják az AI által generált tartalmak. A nők veszélybe kerülhetnek, hogy a maguk által a pasták az előrehaladásukat szolgáló technológia által visszazuhannak, ismételve a közösségi média korai napjain tapasztalt mintát. A közösségi média hasonlóképpen indult, privilegizált fehér férfiak uralták, és a nők tárgyiasításán alapult – Mark Zuckerberg első projektje, a FaceMash, arra kérte a felhasználókat, rangsorolják női diákok vonzerejét, ez volt az előfutára a Facebooknak. A színesbőrű nők, különösen a Harvard Fuerza Latina és Fekete Nők társaságai, korán jelezték a problémákat, de figyelmen kívül hagyták őket.

A Facebook gyors térnyerése társadalmi károkat okozott, beleértve a demokrácia megbomlását és a lányok mentális egészségére gyakorolt súlyos hatásokat, amint Zuckerberg korai szlogenje mondta: „Mozogj gyorsan és törj le dolgokat. ” Amikor az online zaklatás rávilágított a problémákra, a vállalatok túl mélyen gyökereztek és profitábilisak voltak ahhoz, hogy reformáljanak, a politikusok pedig, a tech lobbi befolyása miatt, nem léptek fel. A következmények tragikusak voltak: fiatal nők öngyilkossága a szexuális cyber zaklatás miatt, sok női politikus indulásának okaként az online inzultus, és milliók szenvednek el erőszakos fenyegetéseket, doxxolást, zaklatást, rasszista és misogynisztikus zaklatást. Nem tudtuk megelőzni ezt a válságot a közösségi médiával, és nagyobb léptékben ismétlődhet a történelem az AI-val. Peter Wang, az Anaconda társalapítója a társadalom több évtizedes kudarcára hívja fel a figyelmet azzal, hogy a közösségi médiát „fukarcú AI-ként” jellemzi, és az első csalódásnak nevezte. A nők és marginalizált csoportok gyakran önkéntes öncenzúrát, álnevek használatát és hallgatást alkalmaztak a online zaklatás elviselésére, és ez a szokás átterjedhet az AI-térbe is. A The Economist 2020-as tanulmánya szerint a nők közel 90%-a korlátozza online tevékenységét fenyegetések és zaklatások miatt, ami a mesterséges intelligencia használatában mutatkozó egyenlőtlenségekhez is hozzájárul: a 18-24 éves fiúk 71%-a használ heti rendszerességgel AI-t, míg a nők csupán 59%-a. Mivel a férfiak maradnak a domináns felhasználók, az AI tervezése általában a preferenciáikat tükrözi. Az AI elutasítása nem a megoldás. Ehelyett a szabályozásokat és védelmi intézkedéseket be kell építeni az AI tervezési szakaszába, mielőtt a nyilvánosságot elérné, hasonlóan más ágazatok standardjaihoz. Leyla R Bravo, akkor a Fuerza Latina elnöke 2003-ban próbálta figyelmeztetni a FaceMash káros hatásaira, de azokat figyelmen kívül hagyták. Bízunk benne, hogy ezúttal a politikai vezetők hallgatni fognak. Az AI veszélyei nem távoli disztópikus fantaziák, hanem azok a valódi károk, amelyek jelenleg is sújtják a nőket és lányokat. Ennek felismerése ösztönözheti az erőfeszítéseket arra, hogy másképp alakítsuk a technológiát. Laura Bates, a Mindennapi Szexizmus Projekt alapítója és a The New Age of Sexism: How the AI Revolution is Reinventing Misogyny szerzője hangsúlyozza ezeket a sürgető kérdéseket. Támogatási források közé tartozik a UK-ban a Rape Crisis, az USÁ-ban a Rainn (800-656-4673), Ausztráliában pedig a 1800Respect (1800 737 732). Az öngyilkosság-megelőzést a UK és Írország számára a Samaritans (116 123), az USA-ban a National Suicide Prevention Lifeline (988), Ausztráliában pedig a Lifeline (13 11 14) segélyhívók támogatják. Nemzetközi segélyvonalak listáját az ibiblio. org/rcip/internl. html és a befrienders. org oldalakon találod.