Хага — Световна инициатива доведе до поне 25 ареста, свързани с материали за сексуално насилие над деца, създадени с изкуствен интелект и споделени онлайн, съобщи Европол в петък. "Операция Къмбърланд представлява един от първоначалните случаи, свързани с материали за сексуална експлоатация на деца, генерирани от ИИ, което поставя значителни предизвикателства пред разследващите поради отсъствието на национални закони, които да регулират тези престъпления, " заяви европейската полицейска агенция, базирана в Хага. Повечето арести са извършени в сряда по време на глобалната операция, ръководена от датската полиция, в която участваха и правоохранителни органи от ЕС, Австралия, Великобритания, Канада и Нова Зеландия. Американските правоохранителни агенции не участваха в тази операция, отбеляза Европол. Тази инициатива последва ареста през ноември миналата година на основния заподозрян, датски гражданин, който управляваше онлайн платформа за разпространение на генерираните от ИИ материали. С "едно символично онлайн плащане" потребителите в световен мащаб можеха да получат парола за достъп до платформата и да видят случаи на злоупотреба с деца, по информация на Европол. Европол предупреди, че онлайн сексуалната експлоатация на деца продължава да бъде една от най-алarming формите на киберпрестъпност в Европейския съюз. Това остава основен приоритет за правоохранителните агенции, които се борят с нарастващото количество незаконно съдържание, и се очакват допълнителни арести, докато разследването напредва. Докато Европол посочи, че операция Къмбърланд е насочена към платформа и индивидуални лица, които споделят съдържание, съвсем създадено с ИИ, е имало и тревожен ръст на манипулирани с ИИ "дълбоки фейкове" онлайн, често представящи изображения на реални лица, включително деца, което може да има сериозни последствия за техния живот. Доклад на CBS News от Джим Акселрод през декември подчерта историята на момиче, което е било цел на злоупотреба от съученик, споменавайки, че онлайн през 2023 г. е имало над 21, 000 дълбокофейкови порнографски изображения или видеа, което е увеличение с повече от 460% в сравнение с предходната година.

Това манипулирано съдържание се е увеличило в интернет, докато законодателите в САЩ и други страни се опитват да разработят ново законодателство за справяне с проблема. Наскоро Сенатът прие двупартийски законопроект, известен като "Законът ЗА ДОЛУ", който, ако бъде приет, би направил незаконно публикуването на неприемливо интимно изображение (NCII), включително генерирано от ИИ NCII (или "порнография на отмъщение с дълбоки фейкове"). Той също така ще изисква от социалните медии и подобни платформи да установят процедури за премахване на такова съдържание в рамките на 48 часа след получаване на уведомление от жертва. В момента някои социални медии изглежда или не могат, или не желаят да се справят ефективно с разпространението на сексуализирано, генерирано с ИИ съдържание, включително фалшиви изображения на знаменитости. В средата на февруари Meta, майката компания на Facebook и Instagram, обяви, че е премахнала над дузина измамни сексуализирани изображения на известни жени актриси и атлети, след като разследване на CBS News разкри висока честота на манипулирани с ИИ дълбокофейкови изображения в Facebook. "Това е предизвикателство на индустрията в цялост, и ние постоянно работим за подобряване на нашата технология за откриване и прилагане на закона, " каза говорителят на Meta Ерин Логан в имейл изявление, изпратено до CBS News по това време.