Општеството слепо бега кон опасна иднина додека глобалните инвестиции во вештачката интелигенција драматично се зголемуваат, со компании и држави кои учествуваат во нов тресток на вооружувачкиот натпревар. Nvidia, калфорна компанија за производство на чипови која е клучна за технологијата на вештачката интелигенција, станала највредната компанија на светот. Овој бум, наречен „френзи на вештачка интелигенција“, го споредуваат со „ново злато или нафта“. Владите и корпорациите жестоко се натпреваруваат да ја водеат развојот на ИИ, при што често ги игнорираат безбедносните мерки, фер пристап и одржливоста. На Самитот на ИИ во Париз во февруари 2025 година, меѓународен договор кој промовира „отвор“, „инклузивен“ и „етички“ пристап кон ИИ беше отфрлен од САД и Обединетото Кралство, што ја потенцира геополитичката тензија. Поставуваат се прашања за тоа кој навистина има корист од оваа безразсадна трка — и по која цена. Развојачката Лоре откри дека отворениот код на големиот јазичен модел Ллама предизвика „златна трка“. Лоре ја искористи Ллама за создавање на Chub AI, веб-страница каде што корисниците ја играат улогата во насилни и нелегални акции со ИИ роботи, вклучувајќи вознемирувачки содржини со малолетници и мизогинистички теми. За само 5 долари месечно, корисниците можат да пристапат до „проституција“ каде работат девојки под 15 години, опишани како „ свет без феминизам“, или да комуницираат со ликови како Оливија, 13-годишно девојче облечено во болничка униформа, и Реико, „постара сестра“ со непристојни сексуални сцена. Овој милионски бизнис е само еден од илјадници кои вградуваат мизогинијата во основите на ИИ. На друго место, мажите експлоатираат ИИ за креирање и вооружување на лажни интимни слики со цел да intimidираат жени и девојки, додека брзо се развиваат секс роботи со вознемирувачки карактеристики — вклучувајќи и „сценарија на силување“. Милони ги користат ИИ „сопрузниците“, кои се прилагодливи како лојални виртуелни девојки. Во меѓувреме, генеративната ИИ широко ја промовира мизогинијата и расизмот, што е загрижувачки бидејќи содржините создадени од ИИ наскоро ќе ги диктираат онлајн просторот. Жените се изложени на ризик да бидат повлечени назад од истата технологија која треба да ги отфрли напред, повторувајќи ја историската патека од почетокот на социјалните мрежи. Социјалните мрежи беа зачнати под владение на привилегираните бели мажи и засновани врз објективизацијата на жените — првиот проект на Марк Цукерберг, FaceMash, ги учеше корисниците да рангираат колку се привлечни студентките, што беше предвесник за Фејсбук. Жените од боја, особено групите Fuerza Latina и Чорните жени од Харвард, се обратија со првични загрижености, но беа игнорирани.

Брзиот раст на Фејсбук донесе со себе штетни последици за општеството, вклучувајќи разложена демократија и сериозни влијанија врз менталното здравје на девојките, што се илустрира со раните изјави на Цукерберг: „Брзо движи се и крши работи. “ Кога злоупотребите на платформите станаа очигледни, компаниите беа меѓу најдо толку вгнездени и профитабилни за да се реформираат, а политичарите, под влијание на технолошки лобисти, не преземаа дејствија. Последиците беа трагични: млади жени кои починаа од самоповредување поради сексуален cyberбуллинг, многу жени политичари кои ја напуштија својата кариера поради онлајн злоупотреби, и милиони кои трпеа закани од силување и умирање, доксинг, следење и расистички и мизогинистички напади. Ние не успеавме да спречиме оваа криза со социјалните мрежи и ризикуваме да ја повториме историјата со ИИ на многу поголем масштаб. Peter Wang, коосновач на Anaconda, укажува на тоа како општеството не е во состојба да регулира технологија веќе неколку децении, нарекувајќи ги социјалните мрежи „глупава ИИ“ и неуспешен натпревар. Жените и маргинализираните групи често се принудени на самозасолни, користење на псевдоними и мразење за да се справат со онлајн злоставувањето, што ќе продолжи и во просторот на ИИ. Студија од Economist од 2020 година откри дека речиси 90% од жените ограничуваат онлајн активност поради закани и злоупотреби, што придонесува за разлики при користењето на ИИ: 71% од мажите на возраст од 18–24 години користат ИИ неделно, додека само 59% од жените. Како што мажите остануваат доминантни корисници, дизајнот на ИИ честопати ги одразува нивните преференции. Отфрлањето на ИИ не е решение. Наместо тоа, регулативите и безбедносните мерки мора да се интегрираат во фаза на дизајнирање на ИИ пред неговото јавна објава, слично како што се поставени стандардите во други сектори. Лейла Р Браво, тогашна претседателка на Fuerza Latina, се обиде да предупреди за штетите од FaceMash во 2003 година, но беше игнорирана. Очекува се политички лидери овојпат да слушнат. Опасностите од ИИ не се далечна дистописка фантазија, туку вистински штети што моментално ги пратат жените и девојките. Признавањето на оваа реалност би можело да ги поттикне напорите за различно обликување на технологијата. Лора Бјатс, основачка на Проектот за секојдневен сексизам и авторка на книгата „Новата ера на сексизмот: како револуцијата на ИИ ја reinventува мизогинијата“, ги истакнува овие актуелни проблеми. Ресурси за поддршка се Rape Crisis во Обединетото Кралство (0808 802 9999), Rainn во САД (800-656-4673), и 1800Respect во Австралија (1800 737 732). За превенција од самоубиство, контактирајте со Samaritans во Обединетото Кралство и Ирска (116 123), Националната линија за превенција од самоубиство во САД (988), или Lifeline во Австралија (13 11 14). Меѓународните линии се наведени на ibiblio. org/rcip/internl. html и befrienders. org.