San Francisco har reist sak mot flere nettsteder, basert på ulike steder inkludert California, New Mexico, Estland, Serbia og Storbritannia, i et forsøk på å stenge et kunstig intelligens (AI)-verktøy som brukes til å lage skadelige deepfake-bilder. Verktøyet, som er lett tilgjengelig på internett, kan "avkle ethvert bilde" lastet opp til nettstedet i løpet av sekunder. Søksmålet hevder at tjenestene brøt statlige lover mot uredelig forretningspraksis, ikke-samtykkende pornografi og seksuelt misbruk av barn. Imidlertid er det utfordrende å identifisere operatørene bak disse appene, da de ikke er tilgjengelige i telefonens appbutikker men kan fortsatt finnes på nettet.

Søksmålet kan potensielt sette en juridisk presedens, men det står overfor vanskeligheter på grunn av sakens internasjonale karakter. Spredningen av deepfake-bilder har hatt ødeleggende effekter på ofrene, inkludert skader på deres omdømme, mentale helseproblemer, tap av autonomi og i noen tilfeller selvmordstanker. Innsats fra større selskaper, som Meta Platforms og WhatsApp, er også nødvendig for å bekjempe dette problemet. Utfallet av San Francisco-saken vil bli nøye fulgt av organisasjoner som sporer veksten av AI-generert materiale for seksuelt misbruk av barn.