Criminelen, waaronder pedofielen, oplichters, hackers en anderen, maken steeds vaker gebruik van kunstmatige intelligentie (AI) om slachtoffers op schadelijke manieren uit te buiten, waarschuwde Alex Murray, de nationale politiecoördinator voor AI. De snelle uitbreiding van AI-technologie is te danken aan de toenemende toegankelijkheid, wat politiediensten ertoe aanzet om deze bedreigingen dringend aan te pakken. Criminelen passen AI aan voor diverse misdaden, zoals grootschalige fraude met behulp van deepfake-technologie om leidinggevenden na te bootsen voor financieel gewin. Dergelijke incidenten leiden tot aanzienlijke financiële verliezen, met een opmerkelijk geval waarin een financieel medewerker werd misleid om HK$200 miljoen over te maken na een overtuigende deepfake-videogesprek. Murray uitte ernstige bezorgdheid over het gebruik van generatieve AI door pedofielen om beelden van kindermisbruik te produceren en benadrukte de illegale aard ervan, ongeacht de oorsprong van de beelden. AI faciliteert sextortion door sociale mediaprofielen te manipuleren, terwijl hackers het gebruiken om softwarekwetsbaarheden te identificeren.

Hoewel de huidige focus ligt op afbeeldingen van kindermisbruik en fraude, is het potentiële dreigingsspectrum van AI breed. AI-chatbots vormen risico's en kunnen mogelijk misdaad en terrorisme aanwakkeren. Jonathan Hall, de overheidsrecensent van terrorismewetgeving, onderzocht mogelijke exploitatie van AI in terrorisme, inclusief radicalisering via chatbots. Hij toonde aan hoe eenvoudig een Osama bin Laden-chatbot kon worden gemaakt met behulp van commerciële platforms. Met de voortschrijdende AI-technologie wordt verwacht dat het misbruik door criminelen zal toenemen. Murray benadrukte de noodzaak van een snelle politiereactie om deze bedreigingen effectief tegen te gaan. De eenvoud, realisme en toegankelijkheid van AI-tools zullen naar verwachting toenemen, waardoor proactieve maatregelen nodig zijn om de misdaaduitbreiding tegen 2029 te beperken.