Shoqëria po përshpejtohet me sy të mbyllura drejt një të ardhmeje të rrezikshme ndërsa investimet globale në AI rriten në mënyrë dramatike, ku kompanitë dhe vendet bashkohen në një “garë armësh” të re. Nvidia, një prodhues kalifornian çipash kritik për teknologjinë e AI-së, është shndërruar në kompani më të vlefshme në botë. Ky trend i nxitur, i quajtur “frenzia e AI-së, ” e sheh komponentët e AI-së të krahasuar me “ar të ri ose naftë të re. ” Qeveritë dhe korporatat konkurrojnë ashpër për të udhëhequr zhvillimin e AI-së, shpesh duke anashkaluar masat mbrojtëse, qasjen e barabartë dhe qëndrueshmërinë. Në samitin e AI-së në Paris të shkurtit 2025, një marrëveshje ndërkombëtare që promovon një qasje “hapur, ” “përfshirëse” dhe “etike” ndaj AI-së u refuzua nga SHBA dhe Britania e Madhe, duke nxjerrë në pah tensionet gjeopolitike. Vijnë pyetje rreth atyre që përfitojnë vërtet nga kjo nxitim i pamatur—dhe në çfarë kostoje. Një zhvillues i quajtur Lore zbuloi se lëshimi i burimit të hapur të modelit gjuhësor të madhe Llama shkaktoi një skenar “garë ar. ” Lore përdori Llama për të krijuar Chub AI, një faqe ku përdoruesit shfrytëzojnë role aktivizmi për kryerjen e veprimeve të dhunshme dhe të paligjshme me bosë AI, duke përfshirë përmbajtje tronditëse me minorenë dhe tema misogjine. Për vetëm 5 dollarë në muaj, përdoruesit mund të hyjnë në një “bordell” të stafuar nga vajza nën 15 vjeç, të përshkruara si një “botë pa feminizëm, ” ose të ndërveprojnë me karaktere si Olivia, një vajzë 13-vjeçare e veshur me një fustan spitalor, dhe Reiko, një “motër më e madhe” e portretizuar me skenarë të papërshtatshëm seksualë. Kjo ndërmarrje me vlerë miliona dollarë është vetëm një ndër mijëra që po inkorporojnë misogjinin në bazat e AI-së. Drejtues të tjerë duke shfrytëzuar AI po krijojnë dhe po shndërrojnë në armë imazhe të rreme intime për të terrorizuar gratë dhe vajzat, ndërkohë që robotët seksi me veçori shqetësuese—përfshirë modulet e “simulimit të përdhunimit”—po zhvillohen shpejt. Miliona përdorin “shokë” AI të personalizueshëm si të dashura virtuale besnike dhe nënshtruese. Ndërkohë, AI generuese po rrit më shumë misogjininë dhe racizmin, çështje shqetësuese pasi që përmbajtja e krijuar nga AI së shpejti do të dominojë hapësirat në internet. Gruas iu rrezikon që të rivendosen mbrapa nga e njëjta teknologji që synon t’i çojë përpara burrat, duke përsëritur një model që u pa në ditët e para të rrjeteve sociale. Rrjetet sociale filluan gjithashtu, të dominuara nga burra të privilegjuar dhe e bazuar në objektivizimin e grave—projekti i parë i Mark Zuckerberg, FaceMash, ftoi përdoruesit të rangonin atraktivitetin e studentëve femra, duke qenë hap pas hapi paraardhësi i Facebook-ut. Gratë me ngjyrë, veçanërisht shoqëritë Fuerza Latina dhe Grupi i Grave të Zeza në Harvard, ngritën shqetësime herët, por u injoruan. Rritja e shpejtë e Facebook-ut solli dëmtime shoqërore, përfshirë ndarjen e demokracisë dhe ndikime të rënda për shëndetin mendor të grave dhe vajzave, të përmbledhura në motto-n e hershëm të Zuckerberg: “Vepro shpejt dhe thyj gjërat. ” Kur shfaqen rastet e abuzimit në këto platformat, kompanitë ishin tepër të thelluara dhe fitimprurëse për t’u reformuar, dhe politikanët, të influencuar nga lobimi i teknologjisë, nuk vepruan. Pasojat kanë qenë tragjike: vajza të reja që vdesin nga vetëvrasja pas cyberbulimit seksual, shumë politikanë femra që largohen për shkak të abuzimit në internet, dhe miliona që përballen me kërcënime për dhunë seksuale, vdekje, doxing, ndjekje dhe ngacmim racor dhe misogjinist.

Ne nuk arritëm të parandalojmë këtë krizë me rrjetet sociale dhe rrezikojmë të ripërsëritim historinë me AI-n në një shkallë shumë më të madhe. Peter Wang, bashkëthemelues i Anaconda-s, tregoi për dështimin e shoqërisë për të rregulluar teknologjinë gjatë dekadave, duke e quajtur social media “AI budalla” dhe një takim të dështuar të parë. Gratë dhe grupet e margjinalizuara shpesh kanë përdorur vetë-kufizim, përdorim emrash të ndryshëm dhe heshtje për t’u përballur me ngacmimin online, zakone që do të vazhdojnë edhe në hapësirat e AI-së. Një studim i Economist nga viti 2020 gjeti se pothuajse 90% e grave kufizojnë aktivitetin e tyre online për shkak të kërcënimeve dhe dhunës, duke shtuar pabarazitë në përdorimin e AI-së: 71% e meshkujve në moshën 18–24 përdorin AI javërisht, ndërsa vetëm 59% e grave. Me burrat që mbeten përdorues kryesorë, dizajni i AI-të priret të pasqyrojë preferencat e tyre. Refuzimi i AI-së nuk është zgjidhja. Përkundrazi, duhet të integrohen rregulla dhe masa mbrojtëse gjatë fazës së dizajnit të AI-së para publikimit, ashtu si standardet në sektorë të tjerë. Leyla R Bravo, atëherë presidente e Fuerza Latina, kishte për qëllim të paralajmëronte për dëmet e FaceMash në vitin 2003, por u injorua. Shpresojmë që kësaj here liderët politikë do të dëgjojnë. Rreziqet e AI-së nuk janë thjesht fantazi dystopike larg, por dëme të vërteta që po ndikojnë aktualisht tek gratë dhe vajzat. Nënvizimi i këtij realiteti mund të nxisë përpjekje për të ndërtuar teknologjinë ndryshe. Laura Bates, themeluese e projektit The Everyday Sexism dhe autorja e The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, thekson këto çështje të ngutshme. Burime mbështetëse përfshijnë Rape Crisis në Mbretërinë e Bashkuar (0808 802 9999), Rainn në SHBA (800-656-4673), dhe 1800Respect në Australi (1800 737 732). Për parandalimin e vetëvrasjeve kontaktoni Samaritan në Britani dhe Irlandë (116 123), Linja Kombëtare e Parandalimit të Vetëvrasjes në SHBA (988), ose Lifeline në Australi (13 11 14). Linjat ndihmë ndërkombëtare gjenden në ibiblio. org/rcip/internl. html dhe befrienders. org.