San Francisco ha presentat una demanda contra diverses webs, ubicades en diverses localitzacions com Califòrnia, Nou Mèxic, Estònia, Sèrbia i el Regne Unit, en un esforç per tancar una eina d'intel·ligència artificial (IA) utilitzada per crear imatges deepfake perjudicials. L'eina, que és fàcilment accessible a internet, pot 'despullar qualsevol foto' pujada al web en pocs segons. La demanda al·lega que els serveis van violar les lleis estatals contra les pràctiques comercials fraudulentes, la pornografia no consensuada i l'abús sexual infantil. Tanmateix, identificar els operadors darrere d'aquestes aplicacions és un repte, ja que no estan disponibles a les botigues d'aplicacions de telèfon, però es poden trobar a internet.

La demanda podria potencialment establir un precedent legal, però afronta dificultats a causa de la naturalesa internacional dels acusats. La proliferació d'imatges deepfake ha tingut efectes devastadors en les víctimes, incloent-hi danys a la seva reputació, problemes de salut mental, pèrdua d'autonomia i, en alguns casos, ideació suïcida. També són necessaris esforços de grans empreses, com Meta Platforms i WhatsApp, per combatre aquest problema. El resultat del cas de San Francisco serà seguit de prop per organitzacions que monitoritzen el creixement dels materials d'abusos sexuals infantils generats per IA.