La societat corre cega cap a un futur perillós mentre la inversió global en IA creix de manera dràstica, amb empreses i nacions participant en una nova “cursa armamentística”. Nvidia, un fabricant de xips californià clau per a la tecnologia d’IA, s’ha convertit en la companyia més valuosa del món. Aquesta tendència en auge, anomenada “frenètic de la IA”, compara els components d’IA amb “nous or o petroli”. Els governs i les empreses competeixen intensament per liderar el desenvolupament d’IA, sovint relegant salvaguardes, l’accés equitatiu i la sostenibilitat. A la cimera de París de febrer de 2025 sobre IA, un acord internacional que promovia un enfocament “obert”, “inclusiu” i “ètic” de la IA va ser rebutjat pels Estats Units i el Regne Unit, posant de manifest tensions geopolítiques. Sorgeixen preguntes sobre qui realment en surt beneficiat d’aquesta cursa imprudente —i a quin cost. La desenvolupadora Lore va revelar com la versió de codi obert del model de llenguatge gran Llama va provocar un escenari de “cercle d’or”. Lore va utilitzar Llama per crear Chub AI, un lloc on els usuaris representen amb rols actes violents i illicitrs amb bots d’IA, incloent contingut inquietant amb menors i temes misògins. Per només 5 dòlars al mes, els usuaris poden accedir a un “bordell” amb noies menors de 15 anys, descrits com un “món sense feminisme”, o interactuar amb personatges com l’Olivia, una nena de 13 anys vestida amb bata d’hospital, i Reiko, una “germana gran” amb escenaris sexuals inapropiats. Aquesta empresa de vários milions de dòlars és una de les milers que introdueixen la misogínia en les bases de l’IA. A altres llocs, els homes exploten la IA per crear i weaponitzar imatges falses i intimes, terroritzant dones i nenes, mentre que ràpidament es desenvolupen robots sexuals amb característiques inquietants, incloent-hi modes de “simulació de violació”. Milions d’usuaris compten amb “companyes” d’IA personalitzables com a nòvies virtuals lleials i submises. Mentrestant, la IA generativa amplifica àmpliament la misogínia i el racisme, un problema preocupant ja que els continguts generats per IA domineran aviat els espais en línia. Les dones arrisquen de ser arrossegades cap enrere per la mateixa tecnologia que suposadament hauria de fer avançar els homes, repetint un patró ocorregut durant els primers dies de les xarxes socials. La socialització digital va començar de manera similar, dominada per homes blancs privilegiats i basada en l’objectificació de les dones — el primer projecte de Mark Zuckerberg, FaceMash, invitava els usuaris a classificar l’atractiu de les estudiants, precursor de Facebook. Les dones de color, com els grups Fuerza Latina i Black Women de Harvard, van alertar en quasí l’inici, però van ser ignorades. L’ascens ràpid de Facebook va portar danys socials, incloent la fractura de la democràcia i greus impactes en la salut mental de les nenes, resumits en el mantra inicial de Zuckerberg: “Ves amb pressa i trenca coses”. Quan les denúncies d’abusos en aquestes plataformes es van fer evidents, les empreses ja estaven massa arrelades i beneficiades per a reformar-se, i els polítics, influenciats pel lobbying tecnològic, no van actuar.

les conseqüències han sigut tràgiques: joves que es suïcidin després de ciberassetjament sexual, moltes polítiques i dones deixant la política a causa dels ataques en línia, i milions suportant amenaces de violació i mort, doxing, assetjament i racisme misògí. No vam aconseguir evitar aquesta crisi amb les xarxes socials i, ara, correm el risc de reescollir-ho amb l’IA en una escala molt més gran. Peter Wang, cofundador d’Anaconda, assenyala que la societat ha fallat en regular la tecnologia durant dècades, qualificant les xarxes socials com una “ IA muda” i un primer encontre fracassat. Les dones i els grups marginalitzats sovint han recorreç a la autocensura, els aliases i el silenci per afrontar les agressions en línia, hàbits que s’estendran a l’espai de l’IA. Un estudi de l’Economist de 2020 va descobrir que gairebé el 90 % de les dones restricteixen la seva activitat en línia a causa de les amenaces i abusos, contribuint a disparitats en l’ús de la IA: el 71 % dels homes de 18 a 24 anys utilitzen IA setmanalment, vs només el 59 % de les dones. Com que els homes continuen sent els usuaris dominants, el disseny de l’IA tendeix a reflectir les seves preferències. Rebutjar l’IA no és la solució. En canvi, cal que s’incorporin regulacions i salvaguardes en la fase de disseny de l’IA abans de la seva publicació, com es fa en altres sectors. Leyla R Bravo, aleshores presidenta de Fuerza Latina, va intentar alertar dels mals de FaceMash el 2003, però va ser ignorada. S’esperen que els líders polítics escoltin aquesta vegada. Els perills de l’IA no són fantasies distòpiques allunyades, sinó danys reals que afecten avui mateix a dones i nenes. Reconèixer aquesta realitat podria impulsar esforços per modelar la tecnologia d’una altra manera. Laura Bates, fundadora del projecte Everyday Sexism i autora de The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, remarca aquestes qüestions apressants. Els recursos d’assistència inclouen Rape Crisis al Regne Unit (0808 802 9999), Rainn als Estats Units (800-656-4673) i 1800Respect a Australia (1800 737 732). Per a la prevenció del suïcidi, contacteu amb Samaritans al Regne Unit i Irlanda (116 123), la Línia Nacional contra el Suïcidi als Estats Units (988), o Lifeline a Austràlia (13 11 14). Les línies internacionals d’ajuda apareixen a ibiblio. org/rcip/internl. html i befrienders. org.