På torsdag kunngjorde Google lanseringen av nye mottiltak drevet av kunstig intelligens (AI) for å bekjempe svindel på tvers av Chrome-, Search- og Android-plattformer. Selskapet avslørte at de vil begynne å bruke Gemini Nano, deres store språkmodell (LLM) som kjører på enheten, for å forbedre Safe Browsing i Chrome 137 for stasjonære brukere. Google forklarte: «Den on-device-tilnærmingen gir umiddelbar innsikt i risikable nettsteder og muliggjør beskyttelse også mot tidligere ukjente svindelforsøk. Gemini Nanos LLM er ideell for dette formålet på grunn av dens evne til å analysere den mangfoldige og komplekse naturen til nettsteder, noe som gjør oss i stand til å respondere raskere på nye svindelteknikker. » Teknologigiganten bemerket også at de for øyeblikket bruker denne AI-baserte metoden for å takle fjerntestøttesvindel, som ofte forsøker å lure brukere til å avsløre personlige eller økonomiske opplysninger ved å feilaktig påstå at det er et ikke-eksisterende dataproblem. Dette systemet fungerer ved å analysere websider med LLM for å oppdage signaler som indikerer tech support-svindel, som for eksempel bruk av API for tastatellås. De identifiserte sikkerhetsignalene sendes deretter til Safe Browsing for vurdering av om siden sannsynligvis er et svindelforsøk. Jasika Bawa, Andy Lim og Xinghui Lu fra Google Chrome Security-teamet uttalte: «I tillegg til å sikre at LLM bare utløses sporadisk og kjører lokalt på enheten, håndterer vi ressursbruken nøye ved å overvåke tokenantall, utføre prosesser asynkront for å forhindre avbrytelser i nettleseren, og implementere begrensninger og kvoter for å kontrollere GPU-bruken. » Google planlegger å utvide denne funksjonen til å identifisere andre typer svindel, inkludert de som involverer pakkesporing og ubetalte bompenger. Denne funksjonen forventes også lansert på Chrome for Android senere i år. I forbindelse med kunngjøringen delte Google at deres AI-drevne svindeldeteksjonssystemer er forbedret for å oppdage 20 ganger flere villedende sider, og blokkerer slik innhold fra søkeresultater.

Denne forbedringen har betydelig redusert svindel med etterligning av flyselskapets kundeservice med over 80 %, og de som later som offisielle ressurser som visa og offentlige tjenester med mer enn 70 % i 2024. Videre introduserer Google en ny advarsel for Chrome på Android som bruker en on-device maskinlæringsmodell for å varsle brukere om uønskede varslinger sendt av ondsinnede nettsteder, med mål om å lure dem til å laste ned mistenkelig programvare eller dele sensitive opplysninger. Chrome Securitys Hannah Buonomo og Sarah Krakowiak Criel forklarte: «Denne funksjonen bruker on-device maskinlæring for å oppdage og advare brukere om potensielt villedende eller spam-aktige varslinger, og gir større kontroll over informasjonen som vises på enhetene. Når Chrome markerer en varsling, vil brukerne se avsenderens nettstednavn, en melding om at varslingen kan være villedende eller spam-aktig, og alternativer for å melde av eller gjennomgå det flaggede innholdet. » Disse oppdateringene kommer litt over to måneder etter at Google introduserte AI-drevne svindeldeteksjonsfunksjoner i Meldings-appen på Android. I fjor rullet selskapet også ut lignende teknologier for å identifisere svindel-samtaler. De nye tiltakene sammenfaller med at Google forbereder en funksjon for avansert beskyttelse i Android 16, som i noen aspekter likner Apples strategi ved å deaktivere JavaScript, slå av 2G-tilkoblinger og aktivere flere sikkerhetsfunksjoner som standard, inkludert tyveribeskyttelseslås, avstengt enhetslås, Android Safe Browsing og spambeskyttelse i Meldinger.