A sociedade está caminhando às cegas para um futuro perigoso, enquanto o investimento global em IA aumenta dramaticamente, com empresas e nações entrando em uma nova “corrida armamentista”. A Nvidia, uma fabricante de chips californiana fundamental para a tecnologia de IA, tornou-se a empresa mais valiosa do mundo. Essa tendência crescente, chamada de “frenesi de IA”, compara os componentes de IA ao “novo ouro ou petróleo”. Governos e corporações competem ferozmente para liderar o desenvolvimento de IA, muitas vezes negligenciando salvaguardas, acesso equitativo e sustentabilidade. No cúpula de IA de Paris em fevereiro de 2025, um acordo internacional que promovia uma abordagem de IA “open”, “inclusiva” e “ética” foi rejeitado pelos EUA e Reino Unido, destacando tensões geopolíticas. Questões surgem sobre quem realmente se beneficia dessa corrida irresponsável — e a que custo. Uma desenvolvedora chamada Lore revelou como a liberação de código aberto do grande modelo de linguagem Llama gerou um cenário de “corrida do ouro”. Lore usou o Llama para criar o Chub AI, um site onde os usuários interpretam atos violentos e ilegais com bots de IA, incluindo conteúdos perturbadores envolvendo menores e temas misóginos. Por apenas $5 mensais, os usuários podem acessar um “prostíbulo” com meninas menores de 15 anos, descrito como um “mundo sem feminism”, ou interagir com personagens como Olivia, uma garota de 13 anos com roupas hospitalares, e Reiko, uma “irmã mais velha” inserida em cenários sexuais inapropriados. Essa empresa multimilionária faz parte de milhares que alimentam a misoginia na base da IA. Em outros lugares, homens usam a IA para criar e weaponizar imagens íntimas falsas para aterrorizar mulheres e meninas, enquanto robôs sexuais com características perturbadoras—including modos de “simulação de estupro”—são desenvolvidos rapidamente. Milhões usam “companheiros” de IA personalizáveis como namoradas virtuais leais e subservientes. Ao mesmo tempo, a IA generativa amplia amplamente a misoginia e o racismo, um problema preocupante à medida que o conteúdo criado por IA dominará os espaços online em breve. As mulheres correm risco de serem arrastadas para trás pela própria tecnologia que deveria impulsioná-las, repetindo um padrão visto nos primeiros dias das redes sociais. As redes sociais começaram de forma semelhante, dominadas por homens brancos privilegiados e baseadas na objetificação das mulheres — o primeiro projeto de Mark Zuckerberg, o FaceMash, convidava os usuários a classificar a atratividade de estudantes do sexo feminino, sendo um precursor do Facebook. Mulheres de cor, como os grupos Fuerza Latina e Sociedades de Mulheres Negras de Harvard, levantaram preocupações precoces, mas foram ignoradas.

A rápida ascensão do Facebook trouxe danos sociais, incluindo o enfraquecimento da democracia e efeitos severos na saúde mental de meninas, resumidos no mantra inicial de Zuckerberg: “Ande rápido e quebre as coisas. ” Quando os abusos nessas plataformas se tornaram evidentes, as empresas estavam demasiado enraizadas e lucrativas para se reformarem, e políticos, influenciados pelo lobby tecnológico, não agiram. As consequências foram trágicas: jovens mulheres suicidando-se após cyberbullying sexual, muitas políticos femininas abandonando cargos devido a abusos online, e milhões sofrendo ameaças de estupro, morte, exposição de dados pessoais, stalking e assédio racista e misógino. Falhamos em prevenir essa crise com as redes sociais e corremos risco de repetir a história com a IA em uma escala muito maior. Peter Wang, cofundador da Anaconda, aponta a falha da sociedade em regular a tecnologia ao longo das décadas, chamando as redes sociais de “ IA burra” e um primeiro encontro falho. Mulheres e grupos marginalizados frequentemente recorrem à autocensura, uso de pseudônimos e silenciamento para lidar com assédio online, hábitos que irão persistir nos espaços de IA. Um estudo do The Economist de 2020 descobriu que quase 90% das mulheres restringem sua atividade online devido a ameaças e abusos, contribuindo para disparidades no uso de IA: 71% dos homens de 18 a 24 anos usam IA semanalmente, contra apenas 59% das mulheres. Como os homens continuam a ser os principais usuários, o design da IA tende a refletir suas preferências. Rejeitar a IA não é a solução. Em vez disso, regulamentos e salvaguardas devem ser integrados já na fase de projeto da IA, antes do lançamento público, de forma semelhante aos padrões de outros setores. Leyla R Bravo, então presidente da Fuerza Latina, tentou alertar em 2003 sobre os perigos do FaceMash, mas foi ignorada. Espera-se que, desta vez, os líderes políticos ouçam. Os perigos da IA não são ficções distópicas distantes, mas danos reais que atualmente afetam mulheres e meninas. Reconhecer essa realidade pode impulsionar esforços para moldar a tecnologia de forma diferente. Laura Bates, fundadora do projeto Everyday Sexism e autora de The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, destaca essas questões urgentes. Recursos de apoio incluem Rape Crisis no Reino Unido (0808 802 9999), Rainn nos EUA (800-656-4673) e 1800Respect na Austrália (1800 737 732). Para prevenção ao suicídio, entre em contato com Samaritans no Reino Unido e Irlanda (116 123), a Linha Nacional de Prevenção ao Suicídio dos EUA (988), ou Lifeline na Austrália (13 11 14). Linhas de apoio internacionais estão listadas em ibiblio. org/rcip/internl. html e befrienders. org.