사회는 인공지능에 대한 세계적 투자가 급증하면서 위험한 미래로 맹목적으로 돌진하고 있으며, 기업과 국가들은 새로운 ‘무기 경쟁’에 뛰어들고 있다. 캘리포니아의 칩 제조사인 엔비디아는 AI 기술에 중요한 역할을 담당하는 회사로서, 세계에서 가장 가치 있는 기업이 되었다. 이 ‘AI 열풍’이라고 불리는 급성장 추세는 AI 부품을 ‘새로운 금 또는 석유’에 비유하며, 정부와 기업들은 AI 개발을 주도하기 위해 치열하게 경쟁하며 안전장치, 공평한 접근, 지속 가능성 등을 간과하는 경우가 흔하다. 2025년 2월 파리에서 열린 AI 정상회의에서는 ‘개방적’, ‘포용적’, ‘윤리적’ AI 접근 방식을 촉진하는 국제 협약이 미국과 영국에 의해 거부되어, 지정학적 긴장 상황을 드러냈다. 이 무모한 경쟁에서 누가 진정한 혜택을 받고, 그 대가는 무엇인지에 대한 의문이 일어난다. 개발자 롤은 오픈소스로 공개된 대형 언어 모델인 람야(Llama)가 ‘골드러시’와 같은 상황을 촉발했다고 밝혔다. 롤은 람야를 이용하여 ‘추브 AI(Chub AI)’라는 사이트를 만들어, 이용자들이 폭력적이고 불법적인 행위를 역할극하며 AI 봇과 교감하는 콘텐츠를 제작하게 했다. 이 사이트에는 미성년자와 여성 혐오를 조장하는 내용이 포함되어 있으며, 월 $5만으로 ‘페미니스트 없는 세계’로 묘사되는 15세 미만 소녀들이 근무하는 ‘매춘굴’에 접속하거나, 병원 복장을 한 13세 소녀인 올리비아, 부적절한 성적 상황을 묘사하는 ‘언니’ 역할을 하는 레이코와 교류할 수 있다. 수백만 달러 규모의 이 기업은 수천 개의 AI에 여성 혐오와 차별을 내재화하는 사례들 중 하나일 뿐이다. 다른 곳에서도 남성들은 AI를 활용해 가짜 연애 사진을 만들어 여성과 소녀들을 위협하며, ‘강간 시뮬레이션’ 모드 등을 포함한 충격적인 기능을 갖춘 성인용 로봇들이 빠르게 개발되고 있다. 수백만 명이 충성스럽고 복종하는 가상 연인으로 맞춤 설정된 AI ‘동반자’를 이용하며, 생성형 AI는 여성 혐오와 인종차별을 폭발적으로 확산시키고 있다. 이러한 콘텐츠는 곧 온라인 공간을 지배할 기술로 자리잡을 전망이다. 여성들은 이 기술이 본래 남성을 밀어내기 위해 만들어진 것임에도 불구하고, 오히려 과거 소셜 미디어 초기와 유사한 방식으로 뒤처질 위험에 처해 있다. 소셜 미디어 역시 특권 계층을 이루던 백인 남성들이 주도했고, 여성 대상의 대상화에서 출발했다. 마크 주커버그의 첫 작품인 페이스매쉬(FaceMash)는 여성 학생들의 매력도를 평가하게 만들어 페이스북으로 발전했으며, 여성 유색인종 단체인 퓨에르자 라티나(Fuerza Latina)와 흑인 여성 단체들이 초기 문제를 지적했음에도 무시당했다.

페이스북의 급성장과 함께 사회적 문제도 함께 커졌으며, 이는 민주주의 붕괴와 소녀들의 정신건강 악화로 이어졌다. 초기 주창 구호인 “빠르게 움직이고 많은 것을 깨뜨리라”는 명제가 이를 보여준다. 이들 플랫폼에서의 악용 사례가 드러나기 시작하자, 기업들은 이미 높은 수익성을 reason reform을 거부했고, 정치권 역시 기술 로비의 영향으로 제대로 대응하지 못했다. 그 결과, 젊은 여성들이 사이버 폭력과 성희롱으로 인해 자살하는 일, 여성 정치인들이 온라인 괴롭힘으로 퇴진하는 일, 수백만 명이 강간·살인 위협, 신상 정보 유출, 스토킹, 인종차별과 여성혐오 성희롱에 시달리고 있다. 우리는 소셜 미디어로 인한 이 위기를 막지 못했고, AI 역시 훨씬 더 큰 규모로 비슷한 역사적 반복을 겪게 될 위험이 크다. 앤커다나(Anaconda) 공동창립자인 피터 왕은 지난 수십 년간 기술 규제 실패를 지적하며, 소셜 미디어를 ‘어리석은 AI’ 또는 실패한 첫 만남으로 규정한다. 여성과 소수자는 온라인 괴롭힘에 맞서기 위해 종종 자율 검열, 가명 사용, 침묵 방식을 선택하는데, 이러한 습관이 AI 공간에서도 계속될 것으로 보인다. 2020년 이코노미스트의 조사에 따르면, 거의 90%의 여성들이 위협과 학대를 이유로 온라인 활동을 제한하며, 이는 AI 사용의 격차로 이어진다. 18~24세 남성의 71%가 매주 AI를 사용하는 반면, 여성은 59%에 불과하다. 남성 중심의 사용자층으로 인해 AI 설계 역시 그들의 선호를 반영하는 경향이 있다. AI를 거부하는 것이 답이 아니다. 오히려, 규제와 안전장치는 공개 전에 설계 단계에서부터 통합되어야 하며, 이는 다른 산업 분야의 표준처럼 이루어져야 한다. 퓨에르자 라티나의 당시 회장인 레일라 R 브라보는 2003년 페이스매쉬의 폐해를 경고했지만 무시당했고, 이번에는 정치권이 귀 기울이기를 기대한다. AI의 위험성은 먼 미래의 디스토피아적 환상이 아니라 현재 여성과 소녀들에게 직접적인 피해를 주는 현실이다. 이를 인식하는 것이 기술을 다른 방향으로 이끄는 노력을 촉진할 수 있다. ‘일상 성차별 프로젝트’ 창시자이자 『신성의 시대: AI 혁명이 어떻게 여성혐오를 재창조하는가』의 저자인 로라 베이츠는 이러한 긴급한 문제들을 강조한다. 지원 기관으로는 영국의 강간 위기센터(0808 802 9999), 미국의 레인(Rainn, 800-656-4673), 호주의 1800리스펙트(1800 737 732)가 있으며, 자살 예방을 위해 영국과 아일랜드의 새머리턴(116 123), 미국의 국가 자살 예방 전화(988), 호주의 라이프라인(13 11 14)과 같은 국제 헬프라인도 소개되어 있다.