Kriminalci, uključujući pedofile, prevarante, hakere i druge, sve češće koriste veštačku inteligenciju (AI) za eksploataciju žrtava na štetan način, upozorio je Aleks Maraj, nacionalni policijski lider za AI. Brza ekspanzija AI tehnologije rezultat je njene sve veće dostupnosti, što podstiče policiju da hitno rešava ove pretnje. Kriminalci prilagođavaju AI za razne zločine, uključujući prevare velikih razmera koristeći deepfake tehnologiju za lažno predstavljanje izvršnih direktora radi finansijskih dobitaka. Takvi incidenti podrazumevaju značajne novčane gubitke, s istaknutim slučajem gde je finansijski radnik prevaren da prebaci 200 miliona HK$ nakon uverljivog deepfake video poziva. Maraj je izrazio ozbiljnu zabrinutost zbog upotrebe generativnog AI od strane pedofila za proizvodnju slika zlostavljanja dece, ističući njegovu protivpravnu prirodu bez obzira na poreklo slike. AI olakšava seku-deception manipulisanjem fotografija sa društvenih mreža, dok ga hakeri koriste za otkrivanje ranjivosti softvera. Iako je trenutno fokusiran na slike zlostavljanja dece i prevare, spektar potencijalnih pretnji AI je širok. AI chatboti predstavljaju rizike, potencijalno podstiču zločine i terorizam.

Džonatan Hol, revizor vladinog zakonodavstva o terorizmu, istraživao je moguće eksploatisanje AI u terorizmu, uključujući radikalizaciju putem chatbota. On je demonstrirao koliko lako se može napraviti chatbot Osame bin Ladena koristeći komercijalne platforme. Kako AI tehnologija napreduje, očekuje se porast zloupotreba od strane kriminalaca. Maraj je naglasio potrebu za brzim policijskim odgovorom kako bi se efikasno suprotstavili ovim pretnjama. Predviđa se da će jednostavnost, realizam i dostupnost AI alata rasti, što zahteva proaktivne mere za ublažavanje širenja kriminala do 2029. godine.