San Francisco ka ngritur një padi kundër disa faqeve të internetit, bazuar në vende të ndryshme përfshirë Kaliforninë, Nju Meksikon, Estoninë, Serbinë dhe Mbretërinë e Bashkuar, në një përpjekje për të mbyllur një mjet të inteligjencës artificiale (AI) që përdoret për të krijuar imazhe të dëmshme deepfake. Mjeti, i cili është lehtësisht i aksesueshëm në internet, mund të 'zhvesh çdo foto' të ngarkuar në faqen e internetit brenda sekondave. Padia pretendohet se shërbimet kanë shkelur ligjet shtetërore kundër praktikave të biznesit mashtrues, pornografisë pa pëlqim dhe abuzimit seksual të fëmijëve. Megjithatë, identifikimi i operatorëve prapa këtyre aplikacioneve është sfidues pasi ato nuk janë në dispozicion në dyqanet e aplikacioneve telefonike, por mund të gjenden ende në internet.

Padia mund të vendosë një precedent ligjor, por përballet me vështirësi për shkak të natyrës ndërkombëtare të të pandehurve. Proliferimi i imazheve deepfake ka pasur efekte shkatërruese mbi viktimat, duke përfshirë dëmtimin e reputacionit të tyre, çështje të shëndetit mendor, humbje të autonomisë dhe, në disa raste, mendime suicidale. Përpjekjet nga kompani më të mëdha, si Meta Platforms dhe WhatsApp, gjithashtu janë të nevojshme për të luftuar këtë problem. Rezultati i çështjes së San Franciskos do të monitorohet nga organizatat që ndjekin rritjen e materialit të abuzimit seksual të fëmijëve të krijuar nga AI.