San Francisco telah memfailkan tuntutan mahkamah terhadap beberapa laman web, yang berpusat di pelbagai lokasi termasuk California, New Mexico, Estonia, Serbia, dan United Kingdom, dalam usaha untuk menutup alat kecerdasan buatan (AI) yang digunakan untuk mencipta imej palsu yang berbahaya. Alat ini, yang mudah diakses di internet, boleh 'menelanjang kembali sebarang foto' yang dimuat naik ke laman web dalam beberapa saat. Tuntutan mahkamah mendakwa bahawa perkhidmatan tersebut melanggar undang-undang negeri terhadap amalan perniagaan yang menipu, pornografi tanpa kebenaran, dan penderaan seksual kanak-kanak. Walau bagaimanapun, mengenal pasti pengendali di sebalik aplikasi ini adalah mencabar kerana ia tidak tersedia di stor aplikasi telefon tetapi masih boleh ditemui di internet.

Tuntutan ini berpotensi menetapkan preseden undang-undang, tetapi ia menghadapi kesukaran kerana sifat antarabangsa defendan. Penyebaran imej palsu telah memberi kesan buruk kepada mangsa, termasuk kerosakan pada reputasi mereka, masalah kesihatan mental, kehilangan autonomi, dan, dalam beberapa kes, ideasi bunuh diri. Usaha dari syarikat-syarikat besar, seperti Meta Platforms dan WhatsApp, juga diperlukan untuk mengatasi masalah ini. Hasil kes San Francisco akan dipantau dengan teliti oleh organisasi yang menjejaki pertumbuhan bahan penyalahgunaan seksual kanak-kanak yang dijana oleh AI.