لاهه — یک ابتکار جهانی منجر به حداقل ۲۵ بازداشت مرتبط با محتوای سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید و به صورت آنلاین به اشتراک گذاشته شده است، شد، به گزارش یوروپل در روز جمعه. "عملیات کامبرلند یکی از موارد اولیه مرتبط با مواد سوءاستفاده جنسی از کودکان تولید شده توسط هوش مصنوعی است که چالش‌های قابل توجهی را برای محققان به دلیل عدم وجود قوانین ملی برای رسیدگی به این جرائم به همراه دارد"، این را آژانس پلیس اروپا مستقر در لاهه اعلام کرد. بیشتر بازداشت‌ها در روز چهارشنبه در طی عملیات جهانی که توسط پلیس دانمارک رهبری می‌شد، رخ داد و شامل نهادهای اجرای قانون از اتحادیه اروپا، استرالیا، بریتانیا، کانادا و نیوزیلند نیز بود. یوروپل همچنین ذکر کرد که مقامات اجرای قانون ایالات متحده در این عملیات شرکت نداشتند. این ابتکار پس از بازداشت اصلی‌ترین مظنون، یک شهروند دانمارکی که یک پلتفرم آنلاین برای توزیع مواد تولید شده توسط هوش مصنوعی را اداره می‌کرد، در نوامبر گذشته شکل گرفت. بر اساس گزارش یوروپل، با پرداخت "سمبولیک آنلاین"، کاربران در سراسر جهان می‌توانستند یک کلمه عبور برای دسترسی به پلتفرم و مشاهده موارد سوءاستفاده از کودکان به دست آورند. یوروپل هشدار داد که سوءاستفاده جنسی آنلاین از کودکان همچنان یکی از خطرناک‌ترین اشکال جرائم سایبری در اتحادیه اروپا است. این مسئله همچنان یک اولویت بالا برای نهادهای اجرای قانون است که با حجم فزاینده‌ای از محتوای غیرقانونی مقابله می‌کنند و انتظار می‌رود بازداشت‌های بیشتری در حین پیشرفت تحقیقات صورت گیرد. در حالی که یوروپل اشاره کرد که عملیات کامبرلند بر روی یک پلتفرم و افرادی تمرکز دارد که محتوای کاملاً تولید شده با استفاده از هوش مصنوعی را به اشتراک می‌گذارند، افزایش نگران‌کننده‌ای در تصاویر "دیپ فیک" دستکاری شده توسط هوش مصنوعی آنلاین مشاهده شده است که غالباً شامل تصاویر افراد واقعی، از جمله کودکان، است که می‌تواند عواقب شدیدی برای زندگی آن‌ها داشته باشد. گزارش خبری CBS به قلم جیم آکسلرود در دسامبر داستان دختری را برجسته کرد که هدف سوءاستفاده یکی از همکلاسی‌هایش قرار گرفت و اشاره کرد که در سال ۲۰۲۳ بیش از ۲۱, ۰۰۰ تصویر یا ویدئوی پورنوگرافی دیپ فیک آنلاین وجود داشت که افزایش بیش از ۴۶۰ درصدی نسبت به سال قبل را نشان می‌دهد. این محتوای دستکاری شده در اینترنت به شدت افزایش یافته در حالی که قانونگذاران در ایالات متحده و دیگر کشورها سعی در توسعه قوانین جدید برای مقابله با این مشکل دارند. اخیراً، سنای ایالات متحده یک لایحه دو حزبی به نام "قانون آن را حذف کن" را تصویب کرد که در صورت اجرایی شدن، انتشار تصاویر صمیمی غیرقابل قبول (NCII)، از جمله NCII تولید شده با هوش مصنوعی (یا "پورنوگرافی انتقامی دیپ فیک") را غیرقانونی می‌کند.

این قانون همچنین از شبکه‌های اجتماعی و پلتفرم‌های مشابه می‌خواهد تا رویه‌هایی برای حذف چنین محتوایی در عرض ۴۸ ساعت پس از دریافت اطلاعیه از یک قربانی ایجاد کنند. در حال حاضر، برخی از پلتفرم‌های اجتماعی به نظر می‌رسد که یا قادر به حل مؤثر انتشار محتوای دیپ فیک جنسی شده با هوش مصنوعی نیستند و یا تمایلی به این کار ندارند، از جمله تصاویر جعلی از شخصیت‌های مشهور. در اواسط ماه فوریه، متا، شرکت مادر فیس‌بوک و اینستاگرام، اعلام کرد که بیش از دوازده تصویر جنسی جعلی از بازیگران و ورزشکاران زن مشهور را پس از آنکه یک تحقیق CBS News نشان داد که وجود تصاویر دیپ فیک دستکاری شده با هوش مصنوعی در فیس‌بوک بسیار بالا است، حذف کرده است. "این یک چالش در سطح صنعت است و ما به طور مداوم در حال کار بر روی بهبود فناوری تشخیص و اجرای خود هستیم"، گفت سخنگوی متا، ارین لوگن، در یک بیانیه ایمیلی که در آن زمان به CBS News ارسال شده بود.