San Francisco hefur höfðað mál gegn nokkrum vefsíðum, staðsettar á ýmsum stöðum eins og Kaliforníu, Nýju Mexíkó, Eistlandi, Serbíu og Bretlandi, í viðleitni til að loka tóli gervigreindar (AI) til að búa til skaðleg myndskjöl. Tólið, sem er auðvelt að nálgast á netinu, getur "afklætt hvaða ljósmynd" sem er hlaðið upp á vefsíðuna á sekúndubrotum. Málshöfðunin heldur fram að þjónusturnar hafi brotið ríkislög gegn sviksamlegum viðskiptaháttum, ósamþykkt klám og kynferðislegu misnotkun barna. Hins vegar er erfitt að bera kennsl á aðila sem standa að baki þessum forritum þar sem þau eru ekki aðgengileg í símaforritabúðum en eru enn hægt að finna á netinu.

Málshöfðunin gæti mögulega sett lagafyrirmæli, en hún stendur frammi fyrir erfiðleikum vegna alþjóðlegs eðlis sakborninganna. Útbreiðsla djúpleikamynda hefur haft skelfilegar afleiðingar fyrir fórnarlömb, þar á meðal skaða á mannorðinu, geðheilsuvanda, missi á sjálfræði og í sumum tilvikum sjálfsvígshugsun. Þörf er á viðleitni frá stærri fyrirtækjum, eins og Meta Platforms og WhatsApp, til að berjast gegn þessu vandamáli. Útkoma úr máli San Francisco verður grannt fylgst með hjá samtökum sem fylgjast með vexti AI-tilbúins kynferðislegs misnotkunarefnis barna.