San Francisco ha intentato una causa contro diversi siti web, con sede in varie località tra cui California, New Mexico, Estonia, Serbia e il Regno Unito, nel tentativo di chiudere uno strumento di intelligenza artificiale (AI) utilizzato per creare immagini deepfake dannose. Lo strumento, facilmente accessibile su internet, può "spogliare qualsiasi foto" caricata sul sito entro pochi secondi. La causa sostiene che i servizi abbiano violato le leggi statali contro le pratiche commerciali fraudolente, la pornografia non consensuale e l'abuso sessuale dei minori. Tuttavia, identificare gli operatori dietro queste app è impegnativo poiché non sono disponibili nei negozi di app per telefoni ma possono ancora essere trovate su internet.

La causa potrebbe potenzialmente stabilire un precedente legale, ma affronta difficoltà a causa della natura internazionale degli imputati. La proliferazione di immagini deepfake ha avuto effetti devastanti sulle vittime, inclusi danni alla loro reputazione, problemi di salute mentale, perdita di autonomia e, in alcuni casi, ideazione suicidaria. Anche gli sforzi di grandi aziende, come Meta Platforms e WhatsApp, sono necessari per combattere questo problema. L'esito del caso di San Francisco sarà seguito da vicino dalle organizzazioni che monitorano la crescita del materiale di abuso sessuale infantile generato dall'AI.