San Francisco je podnio tužbu protiv nekoliko web stranica smještenih na različitim lokacijama, uključujući Kaliforniju, Novi Meksiko, Estoniju, Srbiju i Ujedinjeno Kraljevstvo, u nastojanju da zatvori alat umjetne inteligencije (AI) koji se koristi za stvaranje štetnih deepfake slika. Alat, koji je lako dostupan na internetu, može 'svaku fotografiju svući' prenesenu na web stranicu za nekoliko sekundi. Tužba tvrdi da su te usluge prekršile državne zakone protiv prijevarnih poslovnih praksi, nesavjesne pornografije i seksualnog zlostavljanja djece. Međutim, identificiranje operatera iza tih aplikacija predstavlja izazov jer nisu dostupne u trgovinama telefonskih aplikacija, ali se ipak mogu pronaći na internetu.

Tužba bi mogla postaviti pravni presedan, ali se suočava s poteškoćama zbog međunarodne prirode optuženih. Proliferacija deepfake slika imala je razorne učinke na žrtve, uključujući narušavanje ugleda, probleme s mentalnim zdravljem, gubitak autonomije, a u nekim slučajevima i suicidalne misli. Potrebni su napori većih tvrtki, poput Meta Platformsa i WhatsAppa, kako bi se borili protiv ovog problema. Ishod slučaja u San Franciscu pomno će pratiti organizacije koje prate rast AI-generiranog materijala o seksualnom zlostavljanju djece.