A mesura que l'evolució de la IA avança ràpidament, han sorgit nombroses amenaces, incloent atacs de pirateria que tenen com a objectiu milers de milions d'usuaris de Gmail, els riscos associats amb eludir els estrictes controls de promptes de Google Gemini, i l'ús indegut d'eines d'IA per pirates informàtics i cibercriminals. No obstant això, en la meva decisiva opinió personal, aquestes preocupacions pal·len en comparació amb la creació de deepfakes, especialment aquells que impliquen contingut sexual. Això és especialment preocupant quan es tracta de material de abusos sexuals infantils (CSAM). Sorprenentment, no ha estat il·legal posseir, crear o distribuir eines d'IA dissenyades per a aquests propòsits, però això està a punt de canviar ja que el Regne Unit es prepara per convertir-se en el primer país del món a implementar lleis que imposaran una pena de cinc anys de presó als infractors. Com informa la BBC, el Regne Unit està a punt d'introduir quatre noves lleis destinades a dificultar que les persones generin CSAM mitjançant eines impulsades per IA. El Ministeri de l'Interior del Regne Unit ha anunciat que serà el primer país a criminalitzar la possessió, creació o distribució d'eines d'IA destinades a la generació de material d'abús sexual infantil.

Com a pare i avi, trobo que la pena màxima proposada de cinc anys de presó és una mica indulgent. La BBC informa que posseir manuals d'IA per a pedòfils, que instrueixen els individus sobre l'ús de la IA per a l'explotació sexual, també es convertirà en il·legal, amb una possible pena d'hasta tres anys. Durant una aparició al programa de diumenge de la BBC amb Laura Kuenssberg el 2 de febrer, la secretària d'Estat del Regne Unit, Yvette Cooper, va declarar: "Els perpetradors estan aprofitant la IA per millorar la seva capacitat de preparar o xantatjar adolescents i nens, manipulant imatges per atraure els joves a un abús més gran—són els actes més horribles, tornant-se cada vegada més sàdics. " A més, els legisladors britànics no es quedaran ahí. Es presentaran delictes addicionals per criminalitzar el funcionament de llocs web que comparteixin aquest tipus de contingut generat per IA, amb penes d'hasta 10 anys de presó. La Força Fronterera del Regne Unit també rebrà nova autoritat per desbloquejar els dispositius dels viatgers entrants per a la seva inspecció si hi ha sospita de CSAM.