San Francisco hat eine Klage gegen mehrere Websites eingereicht, die sich an verschiedenen Standorten befinden, darunter Kalifornien, New Mexico, Estland, Serbien und das Vereinigte Königreich, um ein künstliche Intelligenz (KI) Werkzeug zu schließen, das genutzt wird, um schädliche Deepfake-Bilder zu erstellen. Das Werkzeug, das leicht im Internet zugänglich ist, kann innerhalb von Sekunden jedes auf die Website hochgeladene Foto 'entkleiden'. Die Klage behauptet, dass die Dienstleistungen gegen staatliche Gesetze gegen betrügerische Geschäftspraktiken, nicht einvernehmliche Pornografie und den sexuellen Missbrauch von Kindern verstoßen haben. Die Identifizierung der Betreiber hinter diesen Apps ist jedoch schwierig, da sie nicht in Telefon-App-Stores verfügbar sind, aber immer noch im Internet gefunden werden können.

Die Klage könnte ein rechtliches Präzedenzfall schaffen, aber sie steht vor Herausforderungen aufgrund der internationalen Natur der Beklagten. Die Verbreitung von Deepfake-Bildern hat verheerende Auswirkungen auf die Opfer, einschließlich Rufschädigung, psychischer Gesundheitsprobleme, Verlust der Autonomie und in manchen Fällen Suizidgedanken. Auch Anstrengungen größerer Unternehmen wie Meta Platforms und WhatsApp sind erforderlich, um dieses Problem zu bekämpfen. Der Ausgang des Falls von San Francisco wird von Organisationen, die das Wachstum von KI-generiertem sexuellem Missbrauchsmaterial bei Kindern verfolgen, genau beobachtet.