La société se précipite aveuglément vers un avenir dangereux alors que l'investissement mondial dans l'IA connaît une hausse spectaculaire, avec des entreprises et des nations engagées dans une nouvelle « course aux armements ». Nvidia, un fabricant californien de puces crucial pour la technologie de l'IA, est devenue la société la plus précieuse au monde. Cette tendance florissante, appelée une « frénésie de l'IA », voit les composants d'IA comparés à de « l’or ou du pétrole » nouveaux. Gouvernements et entreprises rivalisent fébrilement pour diriger le développement de l’IA, souvent au détriment des mesures de sécurité, de l’accès équitable et de la durabilité. Lors du sommet parisien sur l'IA de février 2025, un accord international visant à promouvoir une approche « ouverte », « inclusive » et « éthique » de l’IA a été rejeté par les États-Unis et le Royaume-Uni, mettant en lumière les tensions géopolitiques. Des questions se posent sur qui profite réellement de cette ruée irréfléchie — et à quel prix. Une développeuse nommée Lore a révélé comment la sortie en open source du grand modèle de langage Llama a déclenché un scénario de « ruée vers l’or ». Lore a utilisé Llama pour créer Chub AI, un site où les utilisateurs jouent des rôles dans des actes violents et illégaux avec des bots d’IA, y compris du contenu troublant impliquant des mineurs et des thèmes misogynes. Pour aussi peu que 5 dollars par mois, les utilisateurs peuvent accéder à un « bordel » tenu par des filles de moins de 15 ans, décrit comme un « monde sans féminisme », ou interagir avec des personnages tels qu’Olivia, une fille de 13 ans en robe d’hôpital, et Reiko, une « grande sœur » impliquée dans des scénarios sexuels inappropriés. Cette entreprise valant des millions de dollars est l’une parmi des milliers d’initiatives ancrant la misogynie dans les fondations de l’IA. Par ailleurs, des hommes exploitent l’IA pour créer et weaponiser des images intimes fausses afin de terroriser les femmes et les filles, tandis que des robots sexuels aux caractéristiques troublantes — y compris des modes de « simulation de viol » — sont rapidement développés. Des millions d’utilisateurs ont recours à des « compagnons » d’IA personnalisables, fidèles et subordonnés, comme des petites amies virtuelles. Par ailleurs, l’IA générative amplifie largement la misogynie et le racisme, un problème alarmant alors que le contenu créé par l’IA risque de dominer bientôt les espaces en ligne. Les femmes risquent d’être entraînées dans une régression par cette même technologie censée les faire progresser, reproduisant un schéma observé lors des débuts des réseaux sociaux. Ceux-ci ont commencé de façon similaire, dominés par des hommes blancs privilégiés et fondés sur l’objectification des femmes — le premier projet de Mark Zuckerberg, FaceMash, invitait les utilisateurs à classer l’attractivité d’étudiantes, préfigurant Facebook. Les femmes de couleur, notamment les sociétés Fuerza Latina et Black Women’s de Harvard, avaient soulevé dès le départ de vives inquiétudes, sans être écoutées.

La montée fulgurante de Facebook a entraîné des dégâts sociaux, notamment une démocratie fragilisée et des impacts graves sur la santé mentale des jeunes filles, illustrés par la devise de Zuckerberg : « Bougez vite et cassez tout ». Lorsque les abus sur ces plateformes sont devenus évidents, les entreprises étaient trop enracinées et rentables pour réformer, et les politiciens, sous l’influence du lobbying technologique, ont échoué à agir. Les conséquences ont été tragiques : des jeunes femmes se suicidant à cause de cyberharcèlement sexuel, de nombreuses femmes politiques démissionnant face aux abus en ligne, et des millions subissant des menaces de viol, de mort, des actes de doxing, de stalking et de harcèlement raciste ou misogyne. Nous n’avons pas su prévenir cette crise avec les réseaux sociaux, et nous risquons de répéter l’histoire à l’échelle beaucoup plus grande avec l’IA. Peter Wang, cofondateur d’Anaconda, évoque l’échec de la société à réguler la technologie sur plusieurs décennies, qualifiant les réseaux sociaux de « IA stupide » et de première rencontre ratée. Les femmes et les groupes marginalisés ont souvent recours à l’autocensure, l’utilisation d’alias et le silence pour faire face aux harcèlements en ligne, des comportements qui se perpétueront dans l’espace de l’IA. Une étude de 2020 de l’Economist révèle que près de 90 % des femmes limitent leur activité en ligne en raison de menaces et d’abus, accentuant les disparités dans l’utilisation de l’IA : 71 % des hommes de 18 à 24 ans utilisent l’IA chaque semaine contre seulement 59 % des femmes. Comme les hommes restent les utilisateurs dominants, la conception de l’IA tend à refléter leurs préférences. Rejeter l’IA n’est pas la solution. Au lieu de cela, il faut intégrer des réglementations et des protections lors de la phase de conception de l’IA avant sa mise sur le marché, à l’image des normes dans d’autres secteurs. Leyla R Bravo, alors présidente de Fuerza Latina, avait tenté d’alerter en 2003 sur les dangers de FaceMash, sans succès. Il est à espérer que cette fois, les dirigeants politiques écouteront. Les dangers de l’IA ne relèvent pas de fantasmes dystopiques lointains, mais de maux réels qui affectent aujourd’hui directement les femmes et les filles. Reconnaître cette réalité pourrait impulser des efforts pour façonner la technologie différemment. Laura Bates, fondatrice du projet Everyday Sexism et auteure de The New Age of Sexism : How the AI Revolution is Reinventing Misogyny, insiste sur ces enjeux urgents. Les ressources de soutien incluent Rape Crisis au Royaume-Uni (0808 802 9999), Rainn aux États-Unis (800-656-4673), et 1800Respect en Australie (1800 737 732). Pour la prévention du suicide, contactez les Samaritans au Royaume-Uni et en Irlande (116 123), la Ligne National de Prévention du Suicide aux États-Unis (988), ou Lifeline en Australie (13 11 14). Les lignes d’assistance internationales sont listées sur ibiblio. org/rcip/internl. html et befrienders. org.