Jak se vývoj AI rychle posouvá, objevilo se mnoho hrozeb, včetně hackerských útoků cílených na miliardy uživatelů Gmailu, rizik spojených s obcházením přísných kontrol Google Gemini a zneužíváním AI nástrojů hackery a kyberzločinci. Nicméně, podle mého osobního názoru, tyto obavy blednou ve srovnání s vytvářením deepfake, zejména těch, které zahrnují sexuální obsah. To je zvláště znepokojivé, když se to týká materiálu o sexuálním zneužívání dětí (CSAM). Překvapivě nebylo ilegální vlastnit, vytvářet nebo distribuovat AI nástroje určené k takovým účelům, ale to se chystá změnit, neboť Velká Británie se připravuje stát se první zemí na světě, která zavede zákony, jež uloží pětiletý trest odnětí svobody pachatelům. Jak uvedla BBC, Velká Británie plánuje představit čtyři nové zákony, jejichž cílem je ztížit jednotlivcům generování CSAM prostřednictvím nástrojů poháněných AI. Ministerstvo vnitra Spojeného království oznámilo, že bude první zemí, která kriminalizuje vlastnictví, vytváření nebo distribuci AI nástrojů určených k generování materiálu o sexuálním zneužívání dětí.

Jako otec a dědeček považuji navrhovaný maximální trest pět let vězení za poněkud mírný. BBC uvádí, že vlastnictví AI manuálů pro pedofily, které instruují jednotlivce o použití AI pro sexuální vykořisťování, se také stane ilegálním, přičemž hrozí trest až tři roky. Během vystoupení v nedělním programu BBC s Laurou Kuenssberg 2. února ministryně vnitra Spojeného království Yvette Cooper uvedla: "Pachatelé využívají AI k posílení své schopnosti manipulovat s teenagery a dětmi, manipulují s obrázky, aby přitáhli mladé lidi k dalšímu zneužívání – to jsou nejhroznější činy, které se stávají čím dál tím víc sadistickými. " Kromě toho britští zákonodárci nehodlají na tom skončit. Budou zavedeny další trestné činy, aby se kriminalizovalo provozování webových stránek, které sdílejí takový obsah generovaný AI, s tresty až 10 let vězení. Britská pohraniční stráž také získá novou pravomoc odemykat zařízení příchozích cestujících k prohlídce, pokud budou mít podezření na CSAM.