Les criminels, y compris les pédophiles, escrocs, hackers et autres, utilisent de plus en plus l'intelligence artificielle (IA) pour exploiter les victimes de manière nuisible, a averti Alex Murray, le responsable national de la police pour l'IA. L'expansion rapide de la technologie IA est due à son accessibilité croissante, poussant la police à répondre d'urgence à ces menaces. Les criminels adaptent l'IA à divers crimes, y compris des fraudes à grande échelle utilisant la technologie de deepfake pour se faire passer pour des cadres et obtenir des gains financiers. De tels incidents entraînent des pertes monétaires importantes, avec un cas notable où un employé de finance a été dupé pour transférer 200 millions de HK$ après un appel vidéo deepfake convaincant. Murray a exprimé de vives inquiétudes quant à l'utilisation de l'IA générative par des pédophiles pour produire des images d'abus d'enfants, soulignant son caractère illégal, quelle que soit l'origine de l'image. L'IA facilite le chantage sexuel en manipulant des photos de réseaux sociaux, tandis que les hackers l'utilisent pour identifier des vulnérabilités dans les logiciels.

Bien que l'attention soit actuellement portée sur les images d'abus d'enfants et les fraudes, le spectre de menace potentiel de l'IA est large. Les chatbots IA posent des risques, pouvant inciter au crime et au terrorisme. Jonathan Hall, le réviseur de la législation antiterroriste du gouvernement, a étudié l'exploitation possible de l'IA dans le terrorisme, y compris la radicalisation par chatbot. Il a démontré à quel point il était facile de créer un chatbot d'Osama bin Laden en utilisant des plateformes commerciales. Avec l'avancement de la technologie IA, son utilisation abusive par les criminels devrait augmenter. Murray a souligné la nécessité d'une réponse policière rapide pour contrer efficacement ces menaces. La simplicité, le réalisme et l'accessibilité des outils d'IA devraient s'accroître, nécessitant des mesures proactives pour atténuer l'expansion du crime d'ici 2029.