Británie v sobotu oznámila, že kriminalizuje používání nástrojů umělé inteligence určených k vytváření obrazů sexuálního zneužívání dětí a stává se tak první zemí na světě, která zavádí nové trestné činy související s AI v oblasti sexuálního zneužívání. Podle aktuálních zákonů v Anglii a Walesu je nelegální vlastnit, vytvářet, sdílet nebo zobrazovat explicitní obrázky dětí. Nové trestné činy se konkrétně zaměřují na používání AI k manipulaci se skutečnými obrázky nezletilých do explicitního obsahu. Toto rozhodnutí přichází jako reakce na významný nárůst používání AI ze strany online zločinců k výrobě materiálu o sexuálním zneužívání dětí, přičemž zprávy naznačují, že takové explicitní obrázky vzrostly téměř pětkrát v roce 2024, podle Internet Watch Foundation. Yvette Cooper, ministryně vnitra Spojeného království, uvedla: „Víme, že činy zvrhlých predátorů online se často překladají do nejhoršího zneužívání v reálném životě.

Je zásadní čelit sexuálnímu zneužívání dětí jak online, tak offline, abychom zvýšili veřejnou bezpečnost proti novým a vyvíjejícím se zločinům. “ Vláda dodala, že predátoři využívají AI k maskování svých identit a mohou používat falešné obrázky k vydírání dětí, nutí je k dalšímu zneužívání, včetně živého vysílání. Nové trestné činy se budou týkat držení, vytváření nebo distribuce nástrojů AI určených k produkci materiálu o sexuálním zneužívání dětí. Dále bude kriminalizováno držení takzvaných „pedofilních manuálů“ AI, které poskytují pokyny k používání této technologie. Bude zavedena specifická trestná čin za provozování webových stránek, které usnadňují distribuci obsahu o sexuálním zneužívání dětí, a orgány budou mít pravomoc odemykat digitální zařízení k prozkoumání. Tyto iniciativy budou součástí zákona o trestné činnosti a policii, který bude předložen v parlamentu. Na začátku tohoto měsíce Británie rovněž oznámila plány na kriminalizaci vytváření a sdílení sexuálně explicitních „deepfake“ – videí, obrázků nebo zvuků generovaných AI, které vypadají reálně.