Masyarakat secara membuta-buta meluru menuju masa depan yang berbahaya ketika pelaburan global dalam AI melonjak secara dramatik, dengan syarikat dan negara terlibat dalam “perlombaan senjata” yang baru. Nvidia, pengeluar cip dari California yang penting bagi teknologi AI, telah menjadi syarikat paling berharga di dunia. Trend yang berkembang pesat ini, yang dipanggil “gila-gila AI, ” melihat komponen AI disamakan dengan “emas atau minyak yang baharu. ” Kerajaan dan syarikat bersaing secara hebat untuk memimpin pembangunan AI, sering mengabaikan langkah perlindungan, akses yang adil, dan kelestarian. Pada sidang kemuncak AI Paris Februari 2025, satu perjanjian antarabangsa yang mempromosikan pendekatan AI yang “terbuka, ” “saling menyertai, ” dan “beretika” telah ditolak oleh AS dan UK, menunjukkan ketegangan geopolitik. Soalan timbul tentang siapa yang benar-benar mendapat manfaat daripada perlumbaan tergesa-gesa ini—and apakah kosnya. Seorang pembangun bernama Lore mendedahkan bagaimana pelepasan sumber terbuka model bahasa besar Llama memicu senario “perlombaan emas. ” Lore menggunakan Llama untuk mencipta Chub AI, sebuah laman di mana pengguna bermain peranan dalam tindakan kekerasan dan haram dengan bot AI, termasuk kandungan mengganggu yang melibatkan kanak-kanak dan tema misogynistik. Dengan bayaran serendah $5 sebulan, pengguna boleh mengakses “pelacuran” yang dikendalikan oleh gadis di bawah 15 tahun, digambarkan sebagai “dunia tanpa feminism, ” atau berinteraksi dengan watak-watak seperti Olivia, seorang gadis berumur 13 tahun berpakaian hospital, dan Reiko, seorang “kakak” yang digambarkan melalui scenario seksual yang tidak sesuai. Perusahaan bernilai berjuta-juta dolar ini adalah salah satu daripada beribu-ribu yang menyulam misogyni ke dalam asas AI. Di tempat lain, lelaki mengeksploitasi AI untuk mencipta dan menyesarkan gambaran palsu intim bagi menakut-nakutkan wanita dan gadis, sementara robot seks dengan ciri-ciri mengganggu—termasuk mod “simulasi rogol”—dengan pantas dibangunkan. Jutaan orang menggunakan “teman” AI yang boleh disesuaikan sebagai teman virtual yang setia dan patuh. Sementara itu, generatif AI secara meluas memperbesarkan misogyni dan perkauman, satu masalah yang membimbangkan kerana kandungan yang dihasilkan oleh AI tidak lama lagi akan mendominasi ruang dalam talian. Wanita berisiko dibawa kembali ke belakang oleh teknologi yang sepatutnya memperjuangkan kemajuan lelaki, mengulangi pola yang dilihat sejak zaman awal media sosial. Media sosial bermula dengan cara yang sama, didominasi oleh lelaki kulit putih yang berprivileg dan berasaskan objektifikasi wanita—projek pertama Mark Zuckerberg, FaceMash, mengundang pengguna menilai ketampanan pelajar perempuan, sebuah pendahulu kepada Facebook. Wanita berwarna, terutamanya kumpulan Fuerza Latina dan Persatuan Wanita Hitam di Harvard, telah membangkitkan kebimbangan awal tetapi diabaikan. Kebangkitan pantas Facebook membawa kepada kerosakan masyarakat, termasuk demokrasi yang terganggu dan impak serius terhadap kesihatan mental gadis-gadis, yang diringkaskan dalam mantra awal Zuckerberg: “Bergerak pantas dan pecahkan sesuatu. ” Apabila penyalahgunaan di platform ini menjadi jelas, syarikat terlalu terikat dan menguntungkan untuk melakukan pembaharuan, dan ahli politik, yang dipengaruhi oleh lobi teknologi, gagal bertindak.

Kesannya amat tragik: wanita muda mati akibat bunuh diri selepas cyberbullying seksual, ramai wanita politik berhenti kerana ancaman dalam talian, dan jutaaan mengalami ancaman rogol dan kematian, doxing, penguntitan, serta gangguan perkauman dan misogynistik. Kita gagal mencegah krisis ini dengan media sosial dan berisiko mengulangi sejarah dengan AI dalam skala yang lebih besar. Peter Wang, pengasas bersama Anaconda, menunjukkan kegagalan masyarakat mengawal teknologi selama berdekad-dekad, menyamakan media sosial sebagai “AI bodoh” dan pengalaman pertama yang gagal. Wanita dan kumpulan terpinggir sering terpaksa menggunakan langkah sendiri seperti menyembunyikan identiti, menggunakan nama samaran, dan berdiam diri untuk mengatasi gangguan dalam talian, tabiat yang akan berterusan dalam ruang AI. Satu kajian Economist 2020 mendapati hampir 90% wanita mengehadkan aktiviti dalam talian mereka disebabkan ancaman dan penyalahgunaan, yang menyumbang kepada ketidaksamaan dalam penggunaan AI: 71% lelaki berumur 18–24 menggunakan AI setiap minggu berbanding hanya 59% wanita. Oleh kerana lelaki kekal sebagai pengguna utama, reka bentuk AI cenderung mencerminkan preferensi mereka. Menolak AI bukan jawapan. Sebaliknya, peraturan dan langkah keselamatan harus disepadukan semasa proses reka bentuk AI sebelum dilepaskan kepada umum, seperti piawaian dalam sektor lain. Leyla R Bravo, ketika itu presiden Fuerza Latina, berusaha memberi amaran tentang bahaya FaceMash pada tahun 2003 tetapi diabaikan. Diharapkan pemimpin politik akan mendengar kali ini. Bahaya AI bukanlah fantasi dystopian yang jauh tetapi kerosakan sebenar yang sedang menimpa wanita dan gadis. Mengakui realiti ini dapat mendorong usaha untuk membentuk teknologi secara berbeza. Laura Bates, pengasas The Everyday Sexism Project dan pengarang The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, menekankan isu-isu mendesak ini. Sumber sokongan termasuk Rape Crisis di UK (0808 802 9999), Rainn di AS (800-656-4673), dan 1800Respect di Australia (1800 737 732). Untuk pencegahan bunuh diri, hubungi Samaritans di UK dan Ireland (116 123), Lifeline Kebangsaan untuk Pencegahan Bunuh Diri di AS (988), atau Lifeline di Australia (13 11 14). Talian bantuan antarabangsa disenaraikan di ibiblio. org/rcip/internl. html dan befrienders. org.