Myndighederne i Martin County, Fla. , har foretaget en anholdelse i deres første sag om udnyttelse af et barn ved brug af kunstig intelligens (AI). Efterforsker Brian Broughton fra Martin County beskrev forbrydelsens skræmmende karakter og udtalte: "Det er ret skræmmende, når man ser på dette materiale. Hvis du blot ser på det overfladisk, ville du tro, det er et rigtigt fotografi. " Den mistænkte, Daniel Clark Warren, 51, angiveligt tog et billede af en ung pige fra sit nabolag og brugte AI-teknologi til at generere børnepornografi ved at manipulere barnets billede. Broughton forklarede, at Warren "tager et barns ansigt og seksualiserer det, fjerner tøjet . . . involverer (barnet) i visse seksuelle aktiviteter. " Warren står nu over for 14 anklager for besiddelse af børnepornografi og tre anklager for video voyeurisme, alle forbrydelser. Jennifer Newman, direktør for afdelingen for udnyttede børn hos National Center for Missing and Exploited Children, understregede behovet for forsigtighed ved at lægge ting på nettet og advarede om, at "tænk før du lægger op" og "tænk før du sender", da man mister kontrollen over noget, når det deles online.

Newman påpegede, at centeret sidste år modtog 36 millioner tips om cybersikkerhed fra hele verden. Anholdelsen af Warren i januar skete som et resultat af et tip, men sagen blev først offentliggjort for nylig, da efterforskerne søgte efter eventuelle relaterede hændelser. Både lokale og føderale retshåndhævende myndigheder retter øget opmærksomhed mod AI-teknologi og deepfakes, da de fortsætter med at udvikle sig. Newman understregede vigtigheden af åben kommunikation mellem forældre og børn om onlinesikkerhed og foreslog, at forældre inddrager deres børn i diskussioner om brugen af sociale medier. Alan Crowetz, en ekspert inden for internettet, kommenterede det hastigt udviklende felt med AI og påpegede: "AI er nu i sin vilde vestvanefase. Det bringer os absolut fantastiske ting og lover os endnu mere. Men skurke er berygtede for at være gode til at tage helt nye ting og bruge det til onde formål. " FBI har for nylig offentliggjort et memorandum, der drøfter en sag med en børnepsykolog og understreger yderligere vigtigheden af at tackle de voksende bekymringer omkring AI inden for retshåndhævelse. Warren, der også kan stå over for føderale anklager, er i øjeblikket varetægtsfængslet med en kaution på $1, 5 millioner.