샌프란시스코는 캘리포니아, 뉴멕시코, 에스토니아, 세르비아, 영국 등 여러 지역에 위치한 여러 웹사이트를 상대로, 유해한 딥페이크 이미지를 생성하는 인공지능(AI) 도구를 폐쇄하기 위한 소송을 제기했습니다. 인터넷에서 쉽게 접근할 수 있는 이 도구는 업로드된 사진을 몇 초 만에 '벗길 수' 있습니다. 소송에서는 해당 서비스가 사기성 사업 관행, 비동의 포르노 및 아동 성학대에 대한 주법을 위반했다고 주장합니다. 그러나 이러한 애플리케이션의 운영자를 식별하는 것은 도전 과제이며, 이는 전화 앱 스토어에서 이용할 수 없지만 여전히 인터넷에서 찾을 수 있기 때문입니다.

이 소송은 법적 선례를 세울 수 있지만, 피고인의 국제적인 특성으로 인해 어려움을 겪고 있습니다. 딥페이크 이미지의 확산은 피해자들에게 평판 손상, 정신 건강 문제, 자율성 상실 및 일부 경우 자살 충동 등 파괴적인 영향을 미쳤습니다. Meta 플랫폼과 WhatsApp과 같은 대기업의 노력도 이 문제를 해결하는 데 필요합니다. 샌프란시스코 사건의 결과는 AI가 생성한 아동 성학대 자료의 증가를 추적하는 조직들에 의해 주목될 것입니다.