La sociedad avanza ciegamente hacia un futuro peligroso mientras la inversión global en IA aumenta dramáticamente, con empresas y naciones participando en una nueva “carrera armamentística”. Nvidia, un fabricante de chips californiano fundamental para la tecnología de IA, se ha convertido en la compañía más valiosa del mundo. Esta tendencia en auge, llamada una “locura por la IA”, presenta los componentes de IA comparados con “el nuevo oro o petróleo”. Gobiernos y corporaciones compiten ferozmente por liderar el desarrollo de la IA, a menudo relegando a un lado las salvaguardas, el acceso equitativo y la sostenibilidad. En la cumbre de IA en París de febrero de 2025, un acuerdo internacional que promovía un enfoque de IA “abierto”, “incluyente” y “ético” fue rechazado por Estados Unidos y el Reino Unido, destacando tensiones geopolíticas. Surgen preguntas sobre quién realmente se beneficia de esta carrera irresponsable y a qué costo. Una desarrolladora llamada Lore reveló cómo el lanzamiento de código abierto del gran modelo de lenguaje Llama provocó una especie de “fiebre del oro”. Lore utilizó Llama para crear Chub AI, un sitio donde los usuarios participan en juegos de rol de actos violentos e ilegales con bots de IA, incluyendo contenidos perturbadores con menores y temas misóginos. Por tan solo 5 dólares mensuales, los usuarios pueden acceder a un “burdel” atendido por chicas menores de 15 años, descrito como un “mundo sin feminismo”, o interactuar con personajes como Olivia, una niña de 13 años con bata de hospital, y Reiko, una “hermana mayor” caracterizada por escenarios sexuales inapropiados. Esta empresa multimillonaria es solo una de las miles que están insertando la misoginia en las bases de la IA. En otros lugares, hombres explotan la IA para crear y weaponizar imágenes íntimas falsas con el fin de aterrorizar a mujeres y niñas, mientras que robots sexuales con características inquietantes — incluyendo modos de “simulación de violación” — se desarrollan rápidamente. Millones utilizan “compañeros” de IA personalizables como novias virtuales leales y sumisas. Mientras tanto, la IA generativa amplifica ampliamente la misoginia y el racismo, un problema preocupante ya que el contenido generado por IA dominará pronto los espacios en línea. Las mujeres corren el riesgo de ser retrocedidas por la misma tecnología que se supone debe impulsar a los hombres hacia adelante, repitiendo un patrón visto en los primeros días de las redes sociales. Las redes sociales comenzaron de manera similar, dominadas por hombres blancos privilegiados y basadas en la cosificación de las mujeres — el primer proyecto de Mark Zuckerberg, FaceMash, invitaba a los usuarios a clasificar la atractivo de estudiantes femeninas, un precursor de Facebook. Las mujeres de color, en particular, las sociedades Fuerza Latina y Mujeres Negras de Harvard, expresaron preocupaciones tempranas que fueron ignoradas. El rápido ascenso de Facebook trajo daños sociales, incluyendo una democracia fracturada y graves impactos en la salud mental de las niñas, resumidos en el mantra inicial de Zuckerberg: “Ve rápido y rompe cosas”. Cuando se evidenció el abuso en estas plataformas, las empresas estaban demasiado arraigadas y eran demasiado rentables para reformarse, y los políticos, influenciados por el lobby tecnológico, no actuaron. Las consecuencias han sido trágicas: jóvenes mujeres que mueren por suicidio tras ciberacoso sexual, muchas políticas femeninas renunciando por abusos en línea, y millones soportando amenazas de violación y muerte, doxing, acecho y acoso racista y misógino. Fallamos en prevenir esta crisis con las redes sociales y corremos el riesgo de repetir la historia con la IA a una escala mucho mayor.

Peter Wang, cofundador de Anaconda, señala el fracaso de la sociedad para regular la tecnología durante décadas, llamando a las redes sociales “IA tonta” y una primera experiencia fallida. Las mujeres y otros grupos marginados a menudo se han visto obligados a autocensurarse, usar alias y silenciarse para lidiar con el acoso en línea, hábitos que se transferirán a los espacios de IA. Un estudio del Economist en 2020 encontró que casi el 90% de las mujeres restringe su actividad en línea debido a amenazas y abusos, lo que contribuye a disparidades en el uso de IA: el 71% de los hombres de 18 a 24 años utilizan IA semanalmente, en comparación con solo el 59% de las mujeres. Como los hombres siguen siendo los usuarios dominantes, el diseño de la IA tiende a reflejar sus preferencias. Rechazar la IA no es la solución. En cambio, las regulaciones y salvaguardas deben integrarse en la etapa de diseño de la IA antes de su lanzamiento público, similar a los estándares en otros sectores. Leyla R Bravo, entonces presidenta de Fuerza Latina, intentó advertir en 2003 sobre los daños de FaceMash, pero fue ignorada. Se espera que esta vez los líderes políticos escuchen. Los peligros de la IA no son fantasías distópicas lejanas, sino daños reales que afectan actualmente a mujeres y niñas. Reconocer esta realidad podría impulsar esfuerzos para moldear la tecnología de manera diferente. Laura Bates, fundadora del Proyecto Sexismo Cotidiano y autora de La Nueva Era del Sexismo: Cómo la Revolución de la IA Está Reinventando la Misoginia, destaca estos asuntos urgentes. Recursos de apoyo incluyen Rape Crisis en el Reino Unido (0808 802 9999), Rainn en EE. UU. (800-656-4673) y 1800Respect en Australia (1800 737 732). Para la prevención del suicidio, contacta a Samaritans en el Reino Unido e Irlanda (116 123), la Línea Nacional contra el Suicidio en EE. UU. (988), o Lifeline en Australia (13 11 14). Las líneas de ayuda internacionales están en ibiblio. org/rcip/internl. html y befrienders. org.