På torsdag tillkännagav Google lanseringen av nya motåtgärder driven av artificiell intelligens (AI) för att bekämpa bedrägerier över Chrome, Search och Android-plattformarna. Företaget avslöjade att det kommer att börja använda Gemini Nano, sin på-enheten stora språkmodell (LLM), för att förbättra Safe Browsing i Chrome 137 för datoranvändare. Google förklarade: "Det på-enhetsbaserade tillvägagångssättet ger omedelbara insikter om riskabla webbplatser och möjliggör skydd även mot tidigare okända bedrägerier. Gemini Nanos LLM är idealiskt för detta ändamål på grund av dess förmåga att analysera webbsidors mångfald och komplexitet, vilket gör att vi kan svara snabbare på nya bedrägeri-taktiker. " Teknikjätten nämnde också att den för närvarande använder denna AI-baserade metod för att hantera fjärrsupport-bedrägerier, som ofta försöker lura användare att avslöja personliga eller ekonomiska uppgifter genom att falskt hävda att datorn har ett problem som inte existerar. Detta system fungerar genom att analysera webbsidor med hjälp av LLM för att upptäcka signaler som indikerar support-bedrägerier, såsom användning av API för tangentbordslås. De identifierade säkerhetssignalerna vidarebefordras sedan till Safe Browsing för att bedöma om sidan sannolikt är ett bedrägeri. Jasika Bawa, Andy Lim och Xinghui Lu från Google Chrome Security-teamet kommenterade: "Förutom att säkerställa att LLM aktiveras sparsamt och körs lokalt på enheten, hanterar vi resursanvändningen noggrant genom att övervaka token-antal, exekvera processer asynkront för att förhindra avbrott i webbläsaren, samt implementera begränsningar och kvoter för GPU-användning. " Google planerar att utöka denna funktion för att identifiera andra typer av bedrägerier, inklusive de som involverar paketspårning och obetalda vägtullar. Denna funktion förväntas även lanseras i Chrome för Android senare i år. I samband med detta tillkännagivande delade Google att deras AI-drivna bedrägeridetektionssystem har förbättrats så att de nu kan upptäcka 20 gånger fler vilseledande sidor, vilket blockerar sådant innehåll från sökresultaten.

Denna förbättring har kraftigt minskat antalet bedrägerier som utger sig för att vara flygbolagets kundservice med över 80 %, samt de som imiterar officiella resurser som visum och statstjänster med mer än 70 % under 2024. Dessutom introducerar Google en ny varningsfunktion för Chrome på Android som använder en maskininlärningsmodell på enheten för att varna användare om oönskade notifikationer från skadliga webbplatser, vilka syftar till att lura dem att ladda ner misstänkt programvara eller dela känslig information. Hannah Buonomo och Sarah Krakowiak Criel från Chrome Security förklarade: "Denna funktion använder maskininlärning på enheten för att upptäcka och varna om potentiellt vilseledande eller spam-nyhetsnotifikationer, vilket ger större kontroll över den information som visas på enheten. När Chrome markerar en notifikation, får användarna se avsändarsidans namn, ett meddelande som varnar för att notifikationen kan vara vilseledande eller spam, samt alternativ att avregistrera sig från sidan eller granska det flaggade innehållet. " Dessa uppdateringar kommer knappt två månader efter att Google introducerade AI-drivna funktioner för att upptäcka bedrägerier i Messages-appen på Android. Förra året lanserade företaget även liknande teknologier för att identifiera bedrägerirådgivning via samtal. De nya åtgärderna sammanfaller med att Google förbereder en Advanced Protection-funktion i Android 16, som på många sätt liknar Apples strategi genom att inaktivera JavaScript, stänga av 2G-anslutningar och aktivera flera säkerhetsfunktioner som standard, inklusive Theft Detection Lock, Offline Device Lock, Android Safe Browsing och spam-skydd i Messages.