Jeudi, Google a annoncé le lancement de nouvelles contre-mesures basées sur l'intelligence artificielle (IA) visant à lutter contre les arnaques sur les plateformes Chrome, Search et Android. La société a révélé qu'elle commencerait à utiliser Gemini Nano, son modèle de langage large (LLM) intégré à l’appareil, pour améliorer Safe Browsing dans Chrome 137 pour les utilisateurs de bureau. Google a expliqué : « L’approche sur l’appareil offre des insights immédiats sur les sites web risqués et permet une protection même contre des arnaques jusque-là inconnues. Le LLM de Gemini Nano est idéal pour cette tâche en raison de sa capacité à analyser la nature diverse et complexe des sites web, ce qui nous permet de répondre plus rapidement aux nouvelles tactiques d’arnaque. » Le géant technologique a aussi noté qu’il utilise actuellement cette méthode basée sur l’IA pour lutter contre les escroqueries de support technique à distance, qui tentent fréquemment de tromper les utilisateurs en leur faisant croire à un problème informatique inexistant, afin de leur soutirer des informations personnelles ou financières. Ce système fonctionne en analysant les pages web avec le LLM pour détecter des signaux indiquant des escroqueries de support technique, comme l’utilisation de l’API de blocage du clavier. Les signaux de sécurité détectés sont ensuite envoyés à Safe Browsing pour évaluer si la page est probablement une arnaque. Jasika Bawa, Andy Lim et Xinghui Lu de l’équipe sécurité de Google Chrome ont commenté : « En plus de veiller à ce que le LLM ne soit déclenché que rarement et qu’il fonctionne localement sur l’appareil, nous gérons soigneusement l’utilisation des ressources en surveillant le nombre de tokens, en exécutant les processus de manière asynchrone pour éviter toute interruption du navigateur, et en appliquant des contrôles de throttling et de quotas pour limiter l’utilisation du GPU. » Google prévoit d’étendre cette capacité pour identifier d’autres types d’arnaques, telles que celles impliquant le suivi de colis et les péages impayés.

Cette fonction devrait également être lancée plus tard cette année sur Chrome pour Android. Parallèlement, Google a partagé que ses systèmes de détection d’arnaques alimentés par l’IA ont été améliorés pour repérer 20 fois plus de pages trompeuses, bloquant ainsi ce contenu dans les résultats de recherche. Cette amélioration a permis de réduire significativement les arnaques se faisant passer pour le service client des compagnies aériennes de plus de 80 %, et celles imitant des ressources officielles comme les visas ou les services gouvernementaux de plus de 70 % en 2024. De plus, Google introduit une nouvelle fonctionnalité d’avertissement pour Chrome sur Android qui utilise un modèle d’apprentissage automatique sur l’appareil pour alerter les utilisateurs des notifications indésirables envoyées par des sites malveillants, dans le but de les tromper pour télécharger des logiciels suspects ou partager des informations sensibles. Hannah Buonomo et Sarah Krakowiak Criel, de l’équipe sécurité de Chrome, ont expliqué : « Cette fonctionnalité utilise l’apprentissage automatique sur l’appareil pour détecter et avertir les utilisateurs à propos de notifications potentiellement trompeuses ou indésirables, offrant ainsi un contrôle accru sur les informations affichées sur les appareils. Lorsqu’une notification est signalée par Chrome, les utilisateurs verront le nom du site émetteur, un message indiquant que la notification pourrait être trompeuse ou spam, ainsi que des options pour se désabonner du site ou examiner le contenu signalé. » Ces mises à jour interviennent un peu plus de deux mois après l’introduction par Google de fonctionnalités de détection d’arnaques alimentées par l’IA dans l’application Messages sur Android. L’année dernière, la société avait également déployé des technologies similaires pour identifier les appels frauduleux. Ces nouvelles mesures coïncident avec la préparation par Google d’une fonctionnalité de Protection Avancée dans Android 16, qui en quelque sorte ressemble à la stratégie d’Apple en désactivant JavaScript, en coupant les connexions 2G, et en activant par défaut plusieurs fonctionnalités de sécurité, dont le verrouillage anti-vol, le verrouillage hors ligne de l’appareil, Android Safe Browsing, et la protection contre le spam dans Messages.