San Francisco a déposé une plainte contre plusieurs sites web, basés à divers endroits, notamment en Californie, au Nouveau-Mexique, en Estonie, en Serbie et au Royaume-Uni, dans le but de fermer un outil d'intelligence artificielle (IA) utilisé pour créer des images profondeurs nuisibles. L'outil, facilement accessible sur Internet, peut « déshabiller n'importe quelle photo » téléchargée sur le site en quelques secondes. La plainte allègue que les services ont violé les lois d'État contre les pratiques commerciales frauduleuses, la pornographie non consensuelle et les abus sexuels sur enfants. Cependant, identifier les opérateurs derrière ces applications est difficile car elles ne sont pas disponibles dans les boutiques d'applications pour téléphones mais peuvent toujours être trouvées sur Internet.

La poursuite pourrait potentiellement établir un précédent juridique, mais elle rencontre des difficultés en raison de la nature internationale des défendeurs. La prolifération des images de profondes nuisibles a eu des effets dévastateurs sur les victimes, y compris des dommages à leur réputation, des problèmes de santé mentale, une perte d'autonomie et, dans certains cas, des idées suicidaires. Des efforts de la part de plus grandes entreprises, telles que Meta Platforms et WhatsApp, sont également nécessaires pour lutter contre ce problème. L'issue du dossier de San Francisco sera suivie de près par les organisations traquant la croissance du matériel d'abus sexuels d'enfants généré par l'IA.