Breska ríkisstjórnin hefur tilkynnt um „heimsleiðandi“ lög til að refsa þeim sem nota AI verkfæri til að búa til efni um kynferðisleg misnotkun barna (CSAM) og til að beinast að eign á AI „barnaníðingahandbókum“ sem leiðbeina einstaklingum um hvernig á að nýta börn með AI. Nýlegar viðvaranir benda til vaxandi straums í framleiðslu á ógnandi raunverulegum misnotkunaratriðum sem eru búnar til með AI, sem eru mikil ógn við börn. Núverandi lög gera það þegar ólöglegt að eiga AI-borinn CSAM, en nýju íkveikjurnar beinast að því að koma í veg fyrir sköpun og dreifingu þess. Helstu breytingar fela í sér: - Að banna eign, sköpun eða dreifingu AI verkfæra til að framleiða CSAM, með refsingu allt að fimm ára fangelsi. - Að banna eign á AI „barnaníðingahandbókum, “ sem getur leitt til allt að þriggja ára fangelsisrefsingu. Velferðarráðherra Jess Phillips sagði að Bretland sé að setja alþjóðlegt fordæmi með því að takast á við misnotkunaratriði sem eru búnar til með AI. Innanríkisráðherra Yvette Cooper sagði að AI sé að auka kynferðislega misnotkun barna á netinu og geri hana „ekki síst öfgafulla og sadíska. “ Talið er að AI verkfæri séu misnotuð til að breyta raunverulegum myndum af börnum eða manipulera núverandi misnotkunaratriði, sem leiðir til tilvika af þvingun gegn fórnarlömbum.

NSPCC hefur tilkynnt um áhyggjuefni, þar á meðal 15 ára stúlku sem fann raunverulegar falskar naknar myndir af sjálfri sér á netinu. Auk þess miðar löggjöfin að því að búa til nýtt brot fyrir rekstraraðila vefsíðna þar sem efni um misnotkun barna er deilt, sem getur leitt til mögulegrar 10 ára fangelsisrefsingu. Breska landamæragæslan mun fá heimild til að skoða tæki einstaklinga sem grunast um að ógna börnum. Þetta átaksverkefni verður hluti af væntanlegum lögum um glæpi og lögreglu. Með vaxandi tilfellum af AI-búnum misnotunarmyndum—3. 512 greind í einni könnun árið 2024—styður Internet Watch Foundation þessar lagabreytingar og leggur áherslu á mikilvægi þeirra fyrir öryggi barna á netinu.