সান ফ্রান্সিসকো ক্যালিফোর্নিয়া, নিউ মেক্সিকো, এস্টোনিয়া, সার্বিয়া, এবং যুক্তরাজ্য সহ বিভিন্ন স্থানে অবস্থিত বেশ কয়েকটি ওয়েবসাইটের বিরুদ্ধে মামলা করেছে, যা একটি ক্ষতিকর ডিপফেক চিত্র তৈরি করতে ব্যবহৃত একটি কৃত্রিম বুদ্ধিমত্তা (এআই) সরঞ্জাম বন্ধ করার চেষ্টা করছে। ইন্টারনেটে সহজেই প্রবেশযোগ্য এই সরঞ্জামটি ওয়েবসাইটে আপলোড করা যে কোনও ফটোকে কয়েক সেকেন্ডের মধ্যেই 'যেকোন ছবি খুলে ফেলতে' পারে। মামলায় অভিযোগ করা হয়েছে যে এই পরিষেবাগুলি প্রতারণামূলক ব্যবসায়িক অনুশীলন, সম্মতি ছাড়া অশ্লীলতা এবং শিশুদের যৌন নির্যাতনের বিরুদ্ধে রাজ্যের আইনগুলি লঙ্ঘন করেছে। তবে, এই অ্যাপগুলির অপারেটরদের সনাক্ত করা চ্যালেঞ্জিং কারণ এগুলি ফোন অ্যাপ স্টোরগুলিতে উপলব্ধ নয় তবে ইন্টারনেটে এখনও পাওয়া যায়। মামলা আইনি নজির স্থাপন করতে পারে, তবে এটি আসামীদের আন্তর্জাতিক প্রকৃতির কারণে অসুবিধার সম্মুখীন হচ্ছে। ডিপফেক চিত্রগুলির বিস্তার ভুক্তভোগীদের উপর বিধ্বংসী প্রভাব ফেলেছে, যার মধ্যে তাদের সুনামের ক্ষতি, মানসিক স্বাস্থ্য সমস্যা, স্বায়ত্তশাসনের ক্ষতি এবং কিছু ক্ষেত্রে, আত্মহত্যার চিন্তাধারা অন্তর্ভুক্ত রয়েছে। মেটা প্ল্যাটফর্ম এবং হোয়াটসঅ্যাপের মতো বড় কোম্পানির প্রচেষ্টাও এই সমস্যার বিরুদ্ধে লড়াই করতে প্রয়োজনীয়। সান ফ্রান্সিসকো মামলার ফলাফল এআই-উত্পাদিত শিশু যৌন নির্যাতনের উপাদানের বৃদ্ধির ট্র্যাকিংয়ে সংগঠনগুলি দ্বারা নিবিড়ভাবে পর্যবেক্ষণ করা হবে।