Op donderdag kondigde Google de lancering aan van nieuwe tegenmaatregelen op basis van kunstmatige intelligentie (AI) die gericht zijn op het bestrijden van scams op Chrome, Search en Android-platforms. Het bedrijf onthulde dat het Gemini Nano, het grote taalmodel (LLM) dat op het apparaat draait, zal gaan gebruiken om Safe Browsing in Chrome 137 voor desktopgebruikers te verbeteren. Google legde uit: "De aanpak op het apparaat biedt directe inzichten in riskante websites en zorgt voor bescherming, zelfs tegen voorheen onzichtbare scams. Gemini Nano's LLM is ideaal voor dit doel vanwege zijn vermogen om de diverse en complexe aard van websites te doorgronden, waardoor we sneller kunnen reageren op nieuwe scamtechnieken. " De techgigant vermeldde ook dat deze AI-gebaseerde methode momenteel wordt ingezet om remote tech support scams aan te pakken, die vaak proberen gebruikers te misleiden door hen te laten geloven dat er een computerprobleem is dat niet bestaat, en zo persoonlijke of financiële gegevens af te troggelen. Dit systeem werkt door webpagina's te analyseren met behulp van het LLM om signalen te detecteren die wijzen op tech support scams, zoals het gebruik van de API voor toetsenbordblokkering. De geïdentificeerde beveiligingssignalen worden vervolgens doorgestuurd naar Safe Browsing om te beoordelen of de pagina waarschijnlijk een scam is. Jasika Bawa, Andy Lim en Xinghui Lu van het Google Chrome Security-team kommenteerden: "Naast ervoor zorgen dat het LLM slechts spaarzaam wordt geactiveerd en lokaal op het apparaat draait, beheren we het gebruik van bronnen zorgvuldig door het tellen van tokens te monitoren, processen asynchroon uit te voeren om onderbrekingen in de browser te voorkomen, en throttling- en quota-beheer toe te passen om GPU-gebruik te beperken. " Google is van plan deze mogelijkheid uit te breiden om ook andere soorten scams te detecteren, waaronder die met pakketracking en onbetaalde tolgelden. Deze functie wordt later dit jaar ook op Chrome voor Android verwacht. Naast deze aankondiging deelde Google mee dat haar AI-gestuurde scamsdetectiesystemen verbeterd zijn zodat er 20 keer meer misleidende pagina's worden ontdekt, en dat deze inhoud uit zoekresultaten wordt geblokkeerd.

Deze verbetering heeft het aantal scams die zich voordoen als klantenservice van luchtvaartmaatschappijen met meer dan 80% verminderd en die doen alsof ze officiële bronnen zoals visa en overheidsdiensten zijn, met meer dan 70% in 2024. Verder introduceert Google een nieuwe waarschuwingsfunctie voor Chrome op Android die een op het apparaat gebaseerd machine learning-model gebruikt om gebruikers te waarschuwen voor ongewenste meldingen die door kwaadaardige websites worden gestuurd en bedoeld zijn om hen te misleiden tot het downloaden van verdachte software of het delen van gevoelige informatie. Hannah Buonomo en Sarah Krakowiak Criel van Chrome Security legden uit: "Deze functie gebruikt on-device machine learning om gebruikers te detecteren en te waarschuwen voor mogelijk misleidende of spam-achtige meldingen, zodat ze meer controle krijgen over de informatie die op hun apparaten wordt weergegeven. Wanneer Chrome een melding markeert, zien gebruikers de naam van de verzendende site, een bericht dat waarschuwt dat de melding mogelijk misleidend of spam kan zijn, en opties om zich af te melden bij de site of de gemarkeerde inhoud te bekijken. " Deze updates komen net iets meer dan twee maanden nadat Google AI-gestuurde scamsdetectiefuncties introduceerde in de Messages-app op Android. Vorig jaar rolde het bedrijf ook vergelijkbare technologieën uit om scam-oproepen te herkennen. De nieuwe maatregelen vallen samen met Google’s voorbereiding van een Advanced Protection-functie in Android 16, die in sommige opzichten lijkt op de strategie van Apple door JavaScript uit te schakelen, 2G-verbindingen uit te zetten, en meerdere beveiligingsfuncties standaard aan te zetten, waaronder Theft Detection Lock, Offline Device Lock, Android Safe Browsing en spambeveiliging in Messages.