Общество слепо мчится в опасное будущее, поскольку глобальные инвестиции в ИИ резко растут, а компании и страны участвуют в новой "гонке вооружений". Nvidia, калифорнийский производитель чипов, важнейший для технологий ИИ, стал самым ценным в мире компанией. Эта стремительно развивающаяся тенденция, названная "ИИ-лихорадкой", сравнивает компоненты ИИ с "новым золотом или нефтью". Правительства и корпорации fierce конкурируют за лидерство в разработке ИИ, зачастую пренебрегая мерами по безопасности, справедливому доступу и устойчивому развитию. На саммите по ИИ в Париже в феврале 2025 года международное соглашение, продвигающее "открытый", "инклюзивный" и "этичный" подход к ИИ, было отвергнуто США и Великобританией, что подчеркнуло геополитическую напряженность. Возникают вопросы о том, кто действительно получает выгоду от этой безрассудной гонки — и по какой цене. Разработчик по имени Лор рассказал, как открытый исходный код большой языковой модели Llama вызвал сценарий "золотой лихорадки". Лор использовал Llama для создания Chub AI — сайта, где пользователи разыгрывают насильственные и незаконные действия с помощью ИИ-ботов, включая тревожный контент с участием несовершеннолетних и мизогинистские темы. За всего лишь 5 долларов в месяц пользователи могут получить доступ к "борделю", где работают девочки до 15 лет, описываемого как "мир без феминизма", или взаимодействовать с персонажами, например, Оливией — 13-летней девочкой в госпитальной робе, и Рейко — "старшей сестрой" с неподобающими сексуальными сценариями. Этот много-миллионный бизнес — один из тысяч, внедряющих мизогинию в основы ИИ. В других случаях мужчины используют ИИ для создания и оружия фальшивых интимных изображений, чтобы терроризировать женщин и девушек, а также быстро разрабатывают секс-роботов с тревожными функциями — в том числе режимами "моделирования изнасилования". Миллионы используют customizable ИИ-спутников, похожих на преданных виртуальных подруг. В то же время генеративный ИИ широко усиливает мизогинию и расизм, вызывая тревогу, поскольку контент, созданный ИИ, скоро доминирует в онлайн-пространстве. Женщины рискуют быть отброшенными назад той же технологией, которая предназначена была для продвижения мужчин, повторяя паттерн, наблюдавшийся в ранние дни соцмедиа. Социальные сети начинались также: доминировали привилегированные белые мужчины и основывались на объектировании женщин — первый проект Марка Цукерберга, FaceMash, позволял ранжировать привлекательность студенток, являясь предшественником Facebook. Женщины color, в том числе организации Fuerza Latina и Black Women’s societies в Гарварде, подняли ранние опасения, но их проигнорировали.

Быстрый рост Facebook привел к разрушительным последствиям для общества: разногласия в демократии и серьезным проблемам с психическим здоровьем девушек, что отражено в ранней мантре Цукерберга: "Двигай быстро и разрушай". Когда злоупотребления на этих платформах стали очевидны, компании были слишком погружены и прибыльны, чтобы реформироваться, а политики, подверженные влиянию лоббистов технологического сектора, не предприняли ничего. Последствия оказались трагическими: молодые женщины кончают жизнь самоубийством после кибербуллинга, многие женщины-чиновники уходят из политики из-за онлайн-агрессии, миллионы получают угрозы изнасилования и смерти, подвергаются доксингу, преследованию и расистским, мизогинистским нападкам. Мы не смогли предотвратить этот кризис с помощью соцмедиа и рискуем повторить историю с ИИ в гораздо больших масштабах. Питер Ванг, соучредитель Anaconda, указывает на невосприимчивость общества к регулированию технологий на протяжении десятилетий, называя соцмедиа "глупым ИИ" и неудачной первой встречей с этим явлением. Женщины и маргинальные группы часто прибегают к самоцензуре, использованию псевдонимов и молчанию, чтобы справиться с онлайн-оскорблениями — привычки, которые сохранятся и в пространствах ИИ. Исследование Economist 2020 года показало, что почти 90% женщин ограничивают свою активность в сети из-за угроз и насилия, что создаёт дисбаланс в использовании ИИ: 71% мужчин в возрасте 18–24 используют ИИ еженедельно, в то время как только 59% женщин. Поскольку мужчины остаются доминирующими пользователями, дизайн ИИ склонен отражать их предпочтения. Отказ от ИИ — не выход. Вместо этого необходимо внедрение регулировок и средств защиты на этапе разработки ИИ, аналогично стандартам в других отраслях. Лейла Р. Браво, тогдашний президент Fuerza Latina, пыталась предупредить о вреде FaceMash еще в 2003 году, но была проигнорирована. Надеемся, что на этот раз политические лидеры прислушаются. Опасности ИИ — это не далекие фантазии дистопий, а реальные проблемы, уже затрагивающие женщин и девушек. Осознание этой реальности может стать движущей силой для формирования технологий по-другому. Лора Бейтс, основатель проекта Everyday Sexism и автор книги «Новая эпоха сексизма: как революция ИИ переосмысливает мизогинию», подчеркивает эти важнейшие вопросы. Ресурсы поддержки включают Rape Crisis в Великобритании (0808 802 9999), Rainn в США (800-656-4673) и 1800Respect в Австралии (1800 737 732). Для профилактики суицидов обращайтесь к Samaritans в Великобритании и Ирландии (116 123), Национальной линии предотвращения суицида в США (988) или Lifeline в Австралии (13 11 14). Международные горячие линии можно найти на ibiblio. org/rcip/internl. html и befrienders. org.