샌프란시스코, 유해 딥페이크 도구의 웹사이트에 소송 제기

Brief news summary

샌프란시스코는 유해한 딥페이크 이미지를 생성하는 인공지능(AI) 도구를 폐쇄하기 위해 여러 웹사이트를 상대로 소송을 제기했습니다. 소송에서는 해당 웹사이트가 사기성 사업 관행, 비동의 포르노 및 아동 성학대에 대한 주법을 위반했다고 주장합니다. 인터넷에서 접근 가능한 이 AI 도구는 여성과 소녀의 동의 없이 누드 이미지를 생성하는 데 사용되어 피해자에게 괴롭힘과 정신 건강 문제를 일으켰습니다. 많은 웹사이트의 운영자를 규명하는 데 어려움이 있지만, 샌프란시스코는 조사 도구와 소환 권한을 사용해 그들의 신원을 밝힐 계획입니다. 이 사건은 AI로 생성된 딥페이크를 대항하는 법적 선례를 세울 가능성이 있지만, 피고인의 국제적인 특성으로 인해 정의를 실현하기 어려울 수 있습니다.

샌프란시스코는 캘리포니아, 뉴멕시코, 에스토니아, 세르비아, 영국 등 여러 지역에 위치한 여러 웹사이트를 상대로, 유해한 딥페이크 이미지를 생성하는 인공지능(AI) 도구를 폐쇄하기 위한 소송을 제기했습니다. 인터넷에서 쉽게 접근할 수 있는 이 도구는 업로드된 사진을 몇 초 만에 '벗길 수' 있습니다. 소송에서는 해당 서비스가 사기성 사업 관행, 비동의 포르노 및 아동 성학대에 대한 주법을 위반했다고 주장합니다. 그러나 이러한 애플리케이션의 운영자를 식별하는 것은 도전 과제이며, 이는 전화 앱 스토어에서 이용할 수 없지만 여전히 인터넷에서 찾을 수 있기 때문입니다.

이 소송은 법적 선례를 세울 수 있지만, 피고인의 국제적인 특성으로 인해 어려움을 겪고 있습니다. 딥페이크 이미지의 확산은 피해자들에게 평판 손상, 정신 건강 문제, 자율성 상실 및 일부 경우 자살 충동 등 파괴적인 영향을 미쳤습니다. Meta 플랫폼과 WhatsApp과 같은 대기업의 노력도 이 문제를 해결하는 데 필요합니다. 샌프란시스코 사건의 결과는 AI가 생성한 아동 성학대 자료의 증가를 추적하는 조직들에 의해 주목될 것입니다.