Az angliai gyermekügyi biztossal, Dame Rachel de Souzaval, a kormányt arra kéri, hogy tiltsa be az olyan alkalmazásokat, amelyek mesterséges intelligenciát (MI) használnak gyermekek szexuálisan explícit képeinek létrehozására. Szerinte teljes tilalom szükséges azokra az alkalmazásokra, amelyek „meztelenítést” tesznek lehetővé, azaz olyan MI-alapú képszerkesztésre, mely valódi személyek fényképeit manipulálva úgy tesznek láthatóvá, mintha meztelenek lennének. FIGYELEM: figyelmeztet arra, hogy jelenleg a kormány engedélyezi az ilyen alkalmazások szabad működését, annak ellenére, hogy komoly, a való életben is káros következményeik lehetnek. Egy kormányzati szóvivő megerősítette, hogy a gyermek szexuális abúzusát szorgalmazó anyagok illegálisak, és bejelentette, hogy további jogszabályokat vezetnek be az MI-eszközök által generált ilyen tartalom létrehozására, birtoklására vagy terjesztésére. Az egyre gyakoribbá váló deepfake videók, képek vagy audió klipek, melyek hiperrealistának tűnnek, egyre inkább célozzák lányokat és fiatal nőket, sokuk kifejezetten a női testekre szabott. Dame Rachel jelentése szerint a lányok egyre inkább kerülnek társadalmi média platformokon, hogy elkerüljék a veszélyt, hasonlóképpen, ahogyan offline is óvják magukat, például nem járnak egyedül este haza. Gyermekek attól félnek, hogy idegenek, osztálytársak vagy akár barátok célpontjai lehetnek a népszerű kereső- és közösségi média platformokon elérhető technológiák segítségével. Dame Rachel hangsúlyozta, hogy ezeknek az MI-eszközöknek a gyors fejlődése és mérete lenyűgöző és egyben rendkívül veszélyes. Kiemelte, hogy cselekedni kell, nem pedig hagyni, hogy ezek az alkalmazások károkat okozzanak a gyerekek életében. Az Online Safety Act értelmében illegális az explicit deepfake képek megosztása vagy azok megfenyegetése.

A kormány februárban új jogszabályokat jelentett be, amelyek célja az MI által előállított gyermek szexuális abúzus képének elleni küzdelem, például az ilyen anyagok előállításának, birtoklásának vagy terjesztésének tiltásával. Ám Dame Rachel szerint ezek az intézkedések nem elegendőek, és további lépéseket szorgalmaz: teljes tilalmat a „meztelenítős” alkalmazásokra, nem csak azokra, amelyek gyermek szexuális abúzust generálnak. Az Internet Watch Foundation (IWF) jelentése szerint 2024-ben 380%-os növekedést mutattak az MI által generált gyermek szexuális abúzus eseteiben az előző évhez képest, idén 245 jelentés érkezett, szemben az előző év 51 jelentésével. Derek Ray-Hill, az IWF ideiglenes ügyvezető igazgatója megjegyezte, hogy ezeket az alkalmazásokat is rosszul használják iskolákban, az ilyen képek gyorsan ellenőrizhetetlenné válnak. Egy oktatási minisztériumi szóvivő szólalt meg, aki elítélte az MI által generált gyermek szexuális abúzus anyagok készítését és terjesztését, mint elítélendő és illegális tevékenységet. Hangsúlyozta, hogy az ilyen tartalmakat a platformoknak le kell venniük az online biztonsági törvény alapján, különben súlyos bírságokat kell fizetniük. Nagy-Britannia az első ország, amely kifejezetten bevezetett olyan jogszabályokat, amelyek kifejezetten az MI-vel kapcsolatos gyermek szexuális abúzust tiltják. Dame Rachel arra is felszólította a kormányt, hogy jogi kötelezettséget írjon elő az MI-fejlesztők számára, hogy azonosítsák és mérsékeljék a gyermekekre leselkedő veszélyeket, rendszerszerű eljárásokat alakítsanak ki a gyermekekről készült szexuálisan explicit deepfake képek internetes eltávolítására, valamint hivatalosan ismerjék el a deepfake alapú szexuális abúzust mint a nők és lányok elleni erőszak egyik formáját. Paul Whiteman, az NAHT iskolaigazgatók szakszervezetének általános titkára ugyanígy hangsúlyozta, hogy sürgősen felül kell vizsgálni ezt a területet, mivel a technológia veszélye könnyen túl tud lépni a meglévő törvényeken és oktatáson. Emellett az Ofcom médiáról szóló hatóság befejezte a Gyermekek Kódexét, amely szerint a pornográfiát és káros tartalmakat tartalmazó platformoknak szigorúbb életkori ellenőrzéseket kell alkalmazniuk, vagy ellenkező esetben bírságot kapnak. Dame Rachel azonban bírálta ezt a kódexet, mondván, hogy az inkább a technológiai cégek üzleti érdekeit szolgálja, mint gyerekek biztonságát.