På torsdag meddelte Google lanceringen af nye kunstigt intelligens (AI)-drevne modforanstaltninger, der har til formål at bekæmpe svindel på tværs af Chrome, Search og Android-platforme. Virksomheden afslørede, at den vil begynde at bruge Gemini Nano, sin store sprogmodel (LLM) til enhed, for at forbedre Safe Browsing i Chrome 137 for desktopbrugere. Google forklarede: "Den on-device tilgang giver øjeblikkelige indsiger i risikable hjemmesider og muliggør beskyttelse selv mod tidligere usete svindelnumre. Gemini Nanos LLM er ideel til dette formål på grund af dens evne til at forstå den mangfoldige og komplekse natur af hjemmesider, hvilket gør os i stand til at reagere hurtigere på nye svindelstrategier. " Tech-giganten bemærkede også, at den i øjeblikket anvender denne AI-baserede metode til at håndtere svindel med fjern support, som ofte forsøger at narre brugere til at afsløre personlige eller finansielle oplysninger ved falsk at påstå et ikke-eksisterende computerproblem. Dette system fungerer ved at analysere websider med LLM for at opdage signaler, der indikerer tech support-svindel, såsom brug af API til låsning af tastatur. De identificerede sikkerhedssignaler videresendes derefter til Safe Browsing for vurdering af, om siden sandsynligvis er en fidus. Jasika Bawa, Andy Lim og Xinghui Lu fra Google Chrome Security-teamet kommenterede: "Udover at sikre, at LLM'en udløses kun sparsomt og kører lokalt på enheden, håndterer vi ressourcebrugen omhyggeligt ved at overvåge token-antal, udføre processer asynkront for at forhindre afbrydelser i browseren samt implementere throttling- og kvotestyring for at begrænse GPU-brug. " Google planlægger at udvide denne funktionalitet til at identificere andre typer af svindel, herunder dem relateret til pakke- tracking og ubetalte vejafgifter. Denne funktion forventes også at blive lanceret på Chrome til Android senere i år. Sammen med denne meddelelse delte Google også, at dets AI-drevne svindelopdagelsessystemer er forbedret til at opdage 20 gange flere vildledende sider og blokere sådant indhold i søgeresultaterne.

Denne forbedring har i 2024 betydeligt reduceret svindel, der udgiver sig for at være flyselskabskundeservice med over 80%, og dem, der efterligner officielle ressourcer som visa og offentlige tjenester, med mere end 70%. Derudover introducerer Google en ny advarselsfunktion for Chrome på Android, som benytter en on-device maskinlæringsmodel til at advare brugere om uønskede notifikationer sendt af ondsindede hjemmesider, der forsøger at narre dem til at downloade mistænkeligt software eller dele følsomme oplysninger. Hannah Buonomo og Sarah Krakowiak Criel fra Chrome Security forklarede: "Denne funktion bruger on-device maskinlæring til at opdage og advare brugere om potentielt vildledende eller spam-lignende notifikationer, hvilket giver større kontrol over den information, der vises på enheder. Når Chrome markerer en notifikation, vil brugerne kunne se afsenderens navn, en besked om, at notifikationen kan være vildledende eller spam, samt muligheder for at afmelde fra siden eller gennemgå det markerede indhold. " Disse opdateringer kommer lidt over to måneder efter, at Google introducerede AI-drevne svindeldetecteringsfunktioner i Messages-appen på Android. Last year, virksomheden lancerede også lignende teknologier til at identificere svindelopkald. De nye tiltag falder sammen med, at Google forbereder en Advanced Protection-feature i Android 16, som på nogle områder ligner Apples strategi ved at deaktivere JavaScript, slukke 2G-forbindelser og aktivere flere sikkerhedsfunktioner som Tyveribeskyttelseslås, Offline-enheds-lås, Android Safe Browsing og spambeskyttelse i Messages.