San Francisco on nostanut oikeusjutun useita verkkosivustoja vastaan, jotka toimivat eri paikoissa, kuten Kaliforniassa, Uudessa Meksikossa, Virossa, Serbiassa ja Yhdistyneessä kuningaskunnassa, pyrkien sulkemaan alas haitallisia deepfake-kuvia luovan tekoälytyökalun. Työkalu, joka on helposti saatavilla internetissä, voi 'riisua minkä tahansa kuvan' sekunneissa. Oikeusjuttu väittää, että palvelut rikkoivat osavaltion lakeja vilpillisiä liiketoimintakäytäntöjä, tahdonvastaista pornografiaa ja lasten seksuaalista hyväksikäyttöä vastaan. Kuitenkin, näiden sovellusten toimijoiden tunnistaminen on haastavaa, koska ne eivät ole saatavilla puhelinsovelluskaupoissa mutta löytyvät silti internetistä.

Oikeusjuttu voisi mahdollisesti luoda ennakkotapauksen, mutta se kohtaa vaikeuksia vastaajien kansainvälisen luonteen vuoksi. Deepfake-kuvien leviäminen on aiheuttanut tuhoisia vaikutuksia uhreille, mukaan lukien maineen vahingoittuminen, mielenterveysongelmat, autonomian menetys ja joissain tapauksissa itsetuhoiset ajatukset. Myös isompien yritysten, kuten Meta Platforms ja WhatsApp, ponnisteluja tarvitaan tämän ongelman torjumiseksi. San Franciscon tapauksen tulosta tullaan tarkkailemaan tarkasti niissä organisaatioissa, jotka seuraavat tekoälyllä tuotetun lasten seksuaalisen hyväksikäyttömateriaalin kasvua.