Гаага — Всесвітня ініціатива призвела до щонайменше 25 арештів, пов'язаних із контентом, що містить сексуальну експлуатацію дітей, створеним штучним інтелектом та поширеним в Інтернеті, повідомила Europol у п’ятницю. "Операція Кумберленд є однією з перших справ, пов'язаних із матеріалами сексуальної експлуатації дітей, створеними з використанням штучного інтелекту, що ставить перед слідчими значні виклики через відсутність національних законів, що регулюють ці правопорушення, " заявила європейська поліцейська агенція, що базується в Гаазі. Більшість арештів сталося в середу під час глобальної операції, яку очолювала данська поліція, до якої також приєдналися правоохоронні органи з ЄС, Австралії, Великої Британії, Канади та Нової Зеландії. Europol зазначив, що правоохоронні органи США не брали участі у цій операції. Ця ініціатива виникла після арешту в листопаді минулого року головного підозрюваного, громадянина Данії, який керував онлайн-платформою для розподілу матеріалів, створених штучним інтелектом. З "символічним онлайн-платежем" користувачі з усього світу могли отримати пароль для доступу до платформи та переглядати випадки жорстокого поводження з дітьми, згідно з даними Europol. Europol попередив, що онлайн-сексуальна експлуатація дітей залишається одним з найтривожніших видів кіберзлочинності в Європейському Союзі. Це залишається головним пріоритетом для правоохоронних органів, які борються із зростаючим обсягом нелегального контенту, і очікується, що додаткові арешти стануться в процесі розслідування. У той час як Europol вказав, що операція Кумберленд зосередилася на платформі та особах, які ділилися контентом, створеними виключно із використанням штучного інтелекту, також відзначається тривожне зростання онлайн-зі зображеннями "глибинних фейків", які часто містять зображення реальних осіб, в тому числі дітей, що може мати серйозні наслідки для їхнього життя. Звіт CBS News Джима Акселрода у грудні висвітлював історію дівчинки, яка стала жертвою знущання з боку однокласника, зазначаючи, що в 2023 році в Інтернеті було понад 21 000 порнографічних зображень або відео, створених за допомогою глибинних фейків, що становить збільшення на понад 460% у порівнянні з попереднім роком. Цей маніпульований контент різко зріс в Інтернеті, оскільки законодавці в США та інших країнах намагаються розробити нове законодавство для боротьби з цією проблемою. Нещодавно Сенат прийняв двопартійну поправку, відому як "ЗАКОН ПРО ВИДАЛЕННЯ", який, якщо буде ухвалено, зробить незаконним публікацію несанкціонованих інтимних зображень (NCII), включаючи AI-генероване NCII (або "порнографію помсти з використанням глибинних фейків").

Він також вимагатиме від соціальних мереж та подібних платформ встановити процедури для видалення такого контенту протягом 48 годин після отримання повідомлення від жертви. На даний момент деякі соціальні мережі, здається, або не здатні, або не бажають ефективно вирішувати поширення сексуалізованого контенту, створеного за допомогою штучного інтелекту, включаючи фальшиві зображення знаменитостей. У середині лютого Meta, материнська компанія Facebook і Instagram, вказала, що вона видалила понад дюжину шахрайських сексуалізованих зображень відомих жінок-акторок та спортсменок після того, як розслідування CBS News виявило високу поширеність маніпульованих зображень на Facebook. "Це виклик для всієї індустрії, і ми постійно працюємо над вдосконаленням наших технологій виявлення та впровадження, " сказала речниця Meta Ерин Логан у заяві електронною поштою, надісланій CBS News у той час.