Το Σαν Φρανσίσκο έχει καταθέσει αγωγή κατά πολλών ιστοσελίδων, που εδρεύουν σε διάφορες τοποθεσίες όπως η Καλιφόρνια, το Νέο Μεξικό, η Εσθονία, η Σερβία και το Ηνωμένο Βασίλειο, με στόχο να κλείσουν ένα εργαλείο τεχνητής νοημοσύνης (AI) που χρησιμοποιείται για τη δημιουργία επιβλαβών ψεύτικων εικόνων. Το εργαλείο, το οποίο είναι εύκολα προσβάσιμο στο διαδίκτυο, μπορεί να "γδύνει οποιαδήποτε φωτογραφία" που ανεβαίνει στην ιστοσελίδα μέσα σε λίγα δευτερόλεπτα. Η αγωγή ισχυρίζεται ότι οι υπηρεσίες παραβίασαν κρατικούς νόμους κατά των απατηλών επιχειρηματικών πρακτικών, της μη συναινετικής πορνογραφίας και της σεξουαλικής κακοποίησης παιδιών. Ωστόσο, η ταυτοποίηση των διαχειριστών πίσω από αυτές τις εφαρμογές είναι δύσκολη, καθώς δεν είναι διαθέσιμες σε καταστήματα εφαρμογών τηλεφώνων, αλλά μπορούν να βρεθούν στο διαδίκτυο.

Η αγωγή θα μπορούσε ενδεχομένως να θέσει νομικό προηγούμενο, αλλά αντιμετωπίζει δυσκολίες λόγω της διεθνούς φύσης των κατηγορουμένων. Η εξάπλωση των ψεύτικων εικόνων έχει προκαλέσει καταστρεπτικές επιπτώσεις στα θύματα, συμπεριλαμβανομένης της βλάβης στη φήμη τους, ψυχικά προβλήματα, απώλεια αυτονομίας και, σε ορισμένες περιπτώσεις, αυτοκτονικές τάσεις. Απαιτούνται επίσης προσπάθειες από μεγαλύτερες εταιρείες, όπως η Meta Platforms και το WhatsApp, για την αντιμετώπιση αυτού του προβλήματος. Το αποτέλεσμα της υπόθεσης του Σαν Φρανσίσκο θα παρακολουθείται στενά από οργανισμούς που παρακολουθούν την αύξηση του υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργείται από AI.