유로폴(Europol), 유럽연합의 법 집행 기관은 인공지능(AI)으로 생성된 아동 학대 이미지에 대응하는 세계적인 작전으로 최소 25명이 체포되었다고 보고했습니다. 당국에 따르면, 용의자들은 미성년자의 전적으로 AI로 생성된 이미지를 유포하는 범죄 조직의 일원입니다. 이번 작전은 새로운 형태의 아동 성적 학대 자료(CSAM)에 대응하는 최초의 작전 중 하나로 기록됩니다. 유로폴은 이러한 범죄에 대한 국가 법률의 부재가 조사자들에게 상당한 어려움을 주었다고 언급했습니다. 2월 26일 수요일, 덴마크 법 집행 기관이 주도한 '컴벌랜드 작전(Operation Cumberland)' 중에 동시다발적으로 체포가 이루어졌다고 보도자료에서 밝혔습니다. 최소 18개 국가의 당국이 이 작전에 참여했으며, 작전은 계속 진행 중으로, 향후 몇 주 내에 더 많은 체포가 있을 것으로 예상된다고 유로폴은 전했습니다. 현재 272명의 용의자가 확인되었으며, 33건의 수색 영장이 집행되고 173개의 전자 장치가 압수되었다고 기관이 보고했습니다. 주요 용의자는 2024년 11월에 체포된 덴마크 국적자로, 그가 생성한 AI 콘텐츠를 배포하는 온라인 플랫폼을 운영했다고 전해졌습니다. 전 세계의 사용자들은 "상징적인 온라인 결제"를 통해 해당 플랫폼에 접속하여 "아동 학대를 보여주는 콘텐츠"를 볼 수 있었습니다. 유로폴은 온라인 아동 성 착취가 EU 법 집행 기관의 최우선 과제로 남아 있으며, "계속 증가하는 불법 콘텐츠"와 싸우고 있다고 강조했습니다.

기관은 실제 피해자가 없는 완전한 인공지능 콘텐츠, 예를 들어 컴벌랜드 작전에서와 같은 콘텐츠가 아동의 대상화와 성적화에 기여한다고 표현했습니다. 유로폴의 집행 이사인 캐서린 드 볼(Catherine De Bolle)은 이러한 인공지능으로 생성된 이미지가 기술적 기술이 제한된 개인에 의해서도 쉽게 생산될 수 있다고 경고했습니다. 그녀는 법 집행 기관이 이러한 새로운 도전에 대응하기 위해 "새로운 조사 방법과 도구"를 개발해야 한다고 주의했습니다. 인터넷 감시 재단(Internet Watch Foundation, IWF)은 열린 웹에서 AI로 생성된 아동 성적 학대 이미지의 증가에 대해 우려를 표명했습니다. 그들의 연구에 따르면, 지난해 한 다크 웹 사이트에서 한 달 이내에 3, 512개의 AI로 생성된 아동 성적 학대 및 착취 이미지가 발견되었습니다. 이전 년도의 데이터와 비교할 때, 가장 심각한 범주의 이미지(카테고리 A)는 10% 증가했습니다. 전문가들은 AI로 생성된 아동 성적 학대 자료가 매우 사실적으로 보일 수 있어 실제 이미지와 가짜 이미지를 구별하는 데 어려움을 초래한다고 강조하고 있습니다.