Komisarz ds. Dzieci dla Anglii, Dame Rachel de Souza, apeluje do rządu o zakazanie aplikacji wykorzystujących sztuczną inteligencję (SI) do tworzenia seksualnie explicytywnych obrazów dzieci. Wzywała do całkowitego zakazu aplikacji umożliwiających „nudifikację”, gdzie SI edytuje zdjęcia prawdziwych osób, aby wydawały się nagie, ostrzegając, że rząd obecnie pozwala na nieograniczone działanie takich aplikacji pomimo ich poważnych konsekwencji w rzeczywistości. Rzecznik rządu potwierdził, że materiały o treściach seksualnych z udziałem dzieci są nielegalne i zapowiedział wprowadzenie kolejnych przepisów dotyczących tworzenia, posiadania lub rozpowszechniania narzędzi SI zaprojektowanych do generowania takich treści. Deepfake’i — filmy, zdjęcia lub klipy audio stworzone za pomocą SI, które wyglądają na autentyczne — są coraz częściej wykorzystywane do celów wobec dziewcząt i młodych kobiet, przy czym wiele aplikacji kierowanych jest do ciał kobiecych, wynika z raportu opublikowanego przez Dame Rachel. Raport podkreśla, że dziewczęta coraz częściej unikają publikowania zdjęć lub aktywności online, aby zmniejszyć ryzyko, podobnie jak w przypadku działań offline, takich jak unikanie chodzenia samotnie nocą. Dzieci boją się, że mogą paść ofiarą obcych, kolegów z klasy czy nawet przyjaciół poprzez technologie dostępne na popularnych platformach wyszukiwarek i mediów społecznościowych. Dame Rachel podkreśliła, że szybka ewolucja i rozbudowa tych narzędzi SI stwarza przytłaczające zagrożenia i wyraziła konieczność działania, zamiast pozwalać takim aplikacjom niszczyć życie dzieci. Na mocy Ustawy o Bezpieczeństwie w Internecie, udostępnianie lub grożenie udostępnianiem seksualnie explicitywnych deepfake’ów jest nielegalne.

Rząd ogłosił w lutym nową ustawę mającą na celu zwalczanie obrazów seksualnego wykorzystywania dzieci tworzonych za pomocą SI, w tym zakaz posiadania, tworzenia i rozprowadzania narzędzi SI służących do generowania takich materiałów. Jednak Dame Rachel uważa, że te środki są niewystarczające i wzywa do pełnego zakazu aplikacji „nudifikacji”, nie tylko tych, które służą do tworzenia treści z udziałem dzieci. Fundacja Internet Watch (IWF) odnotowała wzrost o 380% przypadków seksualnego wykorzystywania dzieci za pomocą SI w 2024 roku w porównaniu do 2023, z 245 raportami w tym roku versus 51 wcześniej. Tymczasowość dyrektor wykonawczy IWF, Derek Ray-Hill, zauważył, że takie aplikacje są wykorzystywane w szkołach, a obrazy szybko wymykają się spod kontroli. Rzecznik Departamentu Nauki, Innowacji i Technologii potępił tworzenie i rozpowszechnianie treści seksualnego wykorzystywania dzieci za pomocą SI jako odrażające i nielegalne, zaznaczając, że platformy muszą usuwać takie treści zgodnie z Ustawą o Bezpieczeństwie w Internecie, w przeciwnym razie grożą im wysokie kary finansowe. Wielka Brytania jest pierwszym krajem, który wprowadził szczególne przepisy dotyczące wykorzystywania SI do popełniania przestępstw seksualnych wobec dzieci. Dame Rachel zaapelowała również do rządu o nałożenie obowiązków prawnych na programistów SI w zakresie identyfikacji i ograniczania zagrożeń dla dzieci, ustanowienie systemowych procedur usuwania seksualnie explicitywnych deepfake’ów dzieci z internetu oraz oficjalne uznanie seksualnego wykorzystywania dzieci za pomocą deepfake’ów jako formę przemocy wobec kobiet i dziewcząt. Paul Whiteman, sekretarz generalny związku NAHT nauczycieli szkół, podkreślił te obawy, wskazując na pilną konieczność przeglądu tej dziedziny, ponieważ technologia może wyprzedzić obowiązujące prawo i edukację. Ponadto regulator mediów Ofcom sfinalizował Kodeks dla Dzieci, który wymaga od platform zawierających pornografię i szkodliwe treści wdrożenia silniejszych kontroli wieku lub zapłaty kar finansowych. Jednak Dame Rachel skrytykowała ten kod za nadmierne skupienie się na interesach firm technologicznych kosztem bezpieczeństwa dzieci.