Þar sem þróun AI fer fram hratt hafa margar ógnir komið fram, þar á meðal tölvuárásir sem beinast að milljörðum Gmail notenda, áhættur tengdar því að fara framhjá ströngum fyrirmælum Google Gemini, og misnotkun á AI verkfærum af hönkum og netglæpamönnum. Hins vegar finnst mér, að mínu persónulega mati, að þessar áhyggjur séu litlar í samanburði við sköpun djúpfalsana, sérstaklega þeirra sem tengjast kynferðislegu efni. Þetta er sérstaklega alvarlegt þegar það tengist kynferðislegu ofbeldi gegn börnum (CSAM). Ótrúlegt er að það hefur ekki verið ólöglegt að eiga, búa til eða dreifa AI verkfærum sem hönnuð eru fyrir slíka notkun, en þetta er að breytast þar sem Bretland er að undirbúa sig fyrir að verða fyrstu ríkið í heiminum til að innleiða lög sem munu ákvaða fimm ára fangelsisrefsingu fyrir brotthafa. Samkvæmt skýrslu BBC er Bretland reiðubúið að leggja fram fjögur ný lög sem miða að því að gera það erfiðara fyrir einstaklinga að búa til CSAM með AI byggðum verkfærum. Innanríkisráðuneyti Bretlands hefur tilkynnt að það verði fyrsta ríkið til að gera annað ólöglegt að eiga, búa til eða dreifa AI verkfærum sem ætlað er til að framleiða kynferðislegt ofbeldi gegn börnum.

Sem faðir og afi tel ég að hámarks refsingu sem til í boði eru fimm ára fangelsi sé nokkuð mild. BBC skýrir frá því að að eiga AI handbækur fyrir pedofila, sem leiðbeina einstaklingum um notkun AI í kynferðislegum misnotkun, verði einnig ólöglegt og geti leitt til allt að þriggja ára refsingu. Í fyrirsagnargagnþætti BBC, í sunnudagsþætti með Lauru Kuenssberg 2. febrúar, sagði Yvette Cooper, innanríkisráðherra Bretlands: "Gerendur nýta AI til að auka getu sína til að kynna og þvinga unglinga og börn, með því að breyta myndum til að fá unga til að falla í frekara ofbeldi - þetta eru hræðilegustu verk, sem verða sífellt sadískari. " Auk þess ætla breskir löggjafar að ekki stoppa þar. Frekari brot verða kynnt til að gera stjórnun vefsíðna sem deila slíkum AI-fyrirfram gerðum efni að ólöglegu, með refsingu allt að 10 árum í fangelsi. Bretland landamæralögreglan mun einnig fá nýja heimild til að opna tæki innkomandi ferðamanna til skoðunar ef grunur er um CSAM.