San Francisco telah mengajukan gugatan terhadap beberapa situs web yang berbasis di berbagai lokasi termasuk California, New Mexico, Estonia, Serbia, dan Inggris, dalam upaya untuk menutup alat kecerdasan buatan (AI) yang digunakan untuk membuat gambar deepfake berbahaya. Alat ini, yang mudah diakses di internet, dapat "menanggalkan pakaian dari foto apa pun" yang diunggah ke situs tersebut dalam hitungan detik. Gugatan tersebut menuduh bahwa layanan tersebut melanggar undang-undang negara bagian tentang praktik bisnis curang, pornografi tanpa persetujuan, dan pelecehan seksual terhadap anak. Namun, mengidentifikasi operator di balik aplikasi ini adalah tantangan karena mereka tidak tersedia di toko aplikasi ponsel tetapi masih dapat ditemukan di internet.

Gugatan ini berpotensi menetapkan preseden hukum, tetapi menghadapi kesulitan karena sifat internasional dari para tergugat. Proliferasi gambar deepfake telah memberikan efek buruk pada korban, termasuk kerusakan reputasi mereka, masalah kesehatan mental, kehilangan otonomi, dan, dalam beberapa kasus, ide bunuh diri. Upaya dari perusahaan-perusahaan besar, seperti Meta Platforms dan WhatsApp, juga diperlukan untuk mengatasi masalah ini. Hasil kasus San Francisco akan diawasi ketat oleh organisasi-organisasi yang memantau pertumbuhan materi pelecehan seksual anak yang dihasilkan oleh AI.