Masyarakat dengan buta tuli melaju ke masa depan yang berbahaya karena investasi global dalam kecerdasan buatan (AI) meningkat secara dramatis, dengan perusahaan dan negara terlibat dalam “perlombaan senjata” yang baru. Nvidia, produsen chip asal California yang sangat penting untuk teknologi AI, menjadi perusahaan paling berharga di dunia. Tren yang berkembang pesat ini, yang disebut “kegilaan AI, ” memandang komponen AI seperti “emas atau minyak baru. ” Pemerintah dan perusahaan bersaing sengit untuk memimpin pengembangan AI, sering kali mengabaikan perlindungan, akses yang adil, dan keberlanjutan. Pada KTT AI Paris Februari 2025, sebuah kesepakatan internasional yang mendukung pendekatan AI yang “terbuka, ” “inklusif, ” dan “beretika” ditolak oleh AS dan Inggris, menyoroti ketegangan geopolitik. Pertanyaan muncul tentang siapa yang benar-benar diuntungkan dari perlombaan sembrono ini—dan dengan biaya apa. Seorang pengembang bernama Lore mengungkapkan bagaimana rilis model bahasa besar Llama sebagai sumber terbuka memicu skenario “perburuan emas. ” Lore menggunakan Llama untuk membuat Chub AI, sebuah situs di mana pengguna berperan memainkan aksi kekerasan dan ilegal dengan bot AI, termasuk konten mengganggu yang melibatkan anak di bawah umur dan tema misoginis. Dengan biaya serendah $5 per bulan, pengguna dapat mengakses “pelacuran” yang diisi oleh gadis di bawah usia 15 tahun, yang digambarkan sebagai “dunia tanpa feminism, ” atau berinteraksi dengan karakter seperti Olivia, gadis berumur 13 tahun yang mengenakan jubah rumah sakit, dan Reiko, yang digambarkan sebagai “kakak perempuan” dengan skenario seksual yang tidak pantas. Perusahaan bernilai ratusan juta dolar ini adalah salah satu dari ribuan yang menanamkan misogini ke dalam pondasi AI. Di tempat lain, pria memanfaatkan AI untuk membuat dan mengerahkan gambar palsu yang intim guna mengancam wanita dan gadis, sementara robot seks dengan fitur mengganggu—termasuk mode “simulasi pemerkosaan”—dengan cepat dikembangkan. Jutaan orang menggunakan “teman” AI yang dapat disesuaikan sebagai pacar virtual yang setia dan penurut. Sementara itu, AI generatif secara luas memperbesar misogini dan rasisme, sebuah masalah yang mengkhawatirkan karena konten buatan AI akan segera mendominasi ruang daring. Wanita berisiko tertarik kembali ke masa lalu oleh teknologi yang seharusnya memajukan pria, mengulang pola yang terlihat di masa awal media sosial. Media sosial awalnya juga didominasi pria kulit putih yang privilese dan berakar pada objektifikasi terhadap wanita—proyek pertama Mark Zuckerberg, FaceMash, mengundang pengguna menilai ketertarikan mahasiswa perempuan, sebagai awal dari Facebook. Wanita berwarna, terutama dari komunitas Fuerza Latina dan komunitas Wanita Hitam di Harvard, sudah menyuarakan kekhawatiran sejak dini, tetapi diabaikan. Kebangkitan Facebook membawa kerusakan sosial, termasuk demokrasi yang terluka dan dampak serius terhadap kesehatan mental gadis-gadis, yang dirangkum dalam moto awal Zuckerberg: “Berlomba cepat dan pecahkan hal-hal. ” Ketika penyalahgunaan di media sosial ini menjadi nyata, perusahaan terlalu dalam dan menguntungkan untuk dirombak, dan politisi, yang dipengaruhi oleh lobi teknologi, gagal bertindak.

Konsekuensinya amat tragis: gadis muda meninggal karena bunuh diri setelah cyberbullying seksual, banyak politisi perempuan berhenti karena pelecehan daring, dan jutaan orang menghadapi ancaman perkosaan dan kematian, pengungkapan identitas, penguntiran, serta pelecehan rasial dan misoginis. Kita gagal mencegah krisis ini melalui media sosial dan berisiko mengulangi sejarah dengan AI dalam skala yang jauh lebih besar. Peter Wang, salah satu pendiri Anaconda, menunjuk kegagalan masyarakat dalam mengatur teknologi selama beberapa dasawarsa, menyebut media sosial sebagai “AI bodoh” dan pengalaman pertama yang gagal. Wanita dan kelompok marginal sering melakukan swasensor, menggunakan alias, dan membungkam diri sebagai cara menghadapi pelecehan daring, kebiasaan yang akan terbawa ke ruang AI. Sebuah studi dari Economist 2020 menemukan hampir 90% wanita membatasi aktivitas daring mereka karena ancaman dan pelecehan, yang turut menyumbang ketimpangan dalam penggunaan AI: 71% pria berusia 18–24 tahun menggunakan AI setiap minggu, dibandingkan hanya 59% wanita. Karena pria tetap menjadi pengguna dominan, desain AI cenderung mencerminkan preferensi mereka. Menolak AI bukanlah jawaban. Sebaliknya, regulasi dan perlindungan harus diintegrasikan sejak tahap perancangan AI sebelum diluncurkan ke publik, seperti standar di sektor lain. Leyla R Bravo, yang saat itu menjabat presiden Fuerza Latina, berusaha memperingatkan tentang bahaya FaceMash pada 2003, tetapi diabaikan. Semoga kali ini para pemimpin politik akan mendengarkan. Bahaya AI bukan mimpi dystopian yang jauh di masa depan, melainkan kerusakan nyata yang saat ini sedang mempengaruhi wanita dan gadis. Mengakui realitas ini dapat mendorong upaya untuk membentuk teknologi secara berbeda. Laura Bates, pendiri The Everyday Sexism Project dan penulis The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, menekankan isu-isu mendesak ini. Sumber daya dukungan meliputi Rape Crisis di Inggris (0808 802 9999), Rainn di AS (800-656-4673), dan 1800Respect di Australia (1800 737 732). Untuk pencegahan bunuh diri, hubungi Samaritans di Inggris dan Irlandia (116 123), Lifeline Nasional di AS (988), atau Lifeline di Australia (13 11 14). Layanan bantuan internasional dapat ditemukan di ibiblio. org/rcip/internl. html dan befrienders. org.