Som udviklingen af AI skrider hurtigt frem, er der opstået adskillige trusler, herunder hackingangreb rettet mod milliarder af Gmail-brugere, risici forbundet med at omgå Google Geminis strenge prompts, samt misbrug af AI-værktøjer af hackere og cyberkriminelle. Men efter min ganske personlige mening blegner disse bekymringer i sammenligning med skabelsen af deepfakes, især dem der involverer seksuelt indhold. Dette er især bekymrende, når det handler om børneseksuelt misbrugsmateriale (CSAM). Overraskende nok har det ikke været ulovligt at besidde, skabe eller distribuere AI-værktøjer designet til sådanne formål, men dette er ved at ændre sig, da Storbritannien forbereder sig på at blive det første land i verden til at indføre love, der vil pålægge en fængselsstraf på fem år til lovovertrædere. Som rapporteret af BBC er Storbritannien klar til at indføre fire nye love, der har til formål at gøre det sværere for enkeltpersoner at generere CSAM gennem AI-drevne værktøjer. Det britiske indenrigsministerium har annonceret, at det vil være det første land til at kriminalisere besiddelse, skabelse eller distribution af AI-værktøjer, der er beregnet til at generere børneseksuelt misbrugsmateriale.

Som far og bedstefar finder jeg den foreslåede maksimumstraf på fem års fængsel en smule mild. BBC rapporterer, at besiddelse af AI-manualer for pædofile, som instruerer personer i at bruge AI til seksuel udnyttelse, også vil blive ulovligt og kan medføre en potentiel straf på op til tre år. Under sin optræden i BBC's søndagsprogram med Laura Kuenssberg den 2. februar udtalte den britiske indenrigsminister Yvette Cooper: "Gerningsmænd udnytter AI til at forbedre deres evne til at lokke eller afpresse teenagere og børn, manipulere billeder for at lokke unge mennesker ind i videre misbrug—dette er de mest horrificerede handlinger, der bliver stadig mere sadistiske. " Desuden stopper britiske lovgivere ikke der. Yderligere forbrydelser vil blive indført for at kriminalisere driften af hjemmesider, der deler sådant AI-genereret indhold, med straffe på op til 10 års fængsel. Den britiske grænsekontrol vil også få nye beføjelser til at låse enhedernes adgang for indkommende rejsende til inspektion, hvis der er mistanke om CSAM.