San Francisco podalo žalobu proti několika webovým stránkám se sídlem na různých místech, včetně Kalifornie, Nového Mexika, Estonska, Srbska a Spojeného království, ve snaze zastavit nástroj umělé inteligence (AI) používaný k vytváření škodlivých deepfake obrázků. Tento nástroj, který je snadno přístupný na internetu, dokáže „svléknout jakoukoli fotografii“ nahranou na web během několika sekund. Žaloba tvrdí, že služby porušily státní zákony proti podvodným obchodním praktikám, nekonsensuální pornografii a sexuálnímu zneužívání dětí. Identifikace operátorů těchto aplikací je však obtížná, protože nejsou dostupné v obchodech s aplikacemi pro telefony, ale stále je lze najít na internetu.

Žaloba by mohla stanovit právní precedens, ale čelí obtížím kvůli mezinárodní povaze žalovaných. Proliferace deepfake obrázků měla devastující účinky na oběti, včetně poškození jejich pověsti, problémů s duševním zdravím, ztráty autonomie a v některých případech sebevražedných myšlenek. K řešení tohoto problému jsou také potřebné snahy větších společností, jako jsou Meta Platforms a WhatsApp. Výsledek případu v San Franciscu bude pečlivě sledován organizacemi, které sledují růst materiálu AI generovaného sexuálního zneužívání dětí.