Vo štvrtok Google oznámil spustenie nových prostriedkov na boj proti podvodom poháňaných umelou inteligenciou (AI), zameraných na platformy Chrome, Search a Android. Spoločnosť odhalila, že začne využívať Gemini Nano, svoj veľký jazykový model (LLM) na zariadení, na zlepšenie funkcie Safe Browsing v Chrome 137 pre desktopových používateľov. Google vysvetlil: „Prístup na zariadení ponúka okamžité poznatky o rizikových webových stránkach a umožňuje ochranu aj proti doteraz nepoznaným podvodom. LLM Gemini Nano je pre tento účel ideálny vzhľadom na jeho schopnosť analyzovať rozmanitú a komplexnú povahu webových stránok, čo nám umožňuje reagovať rýchlejšie na nové taktiky podvodníkov. “ Technologický gigant taktiež uviedol, že momentálne využíva túto AI-bábu metódu na boj proti podvodom pri vzdialenej technickej podpore, ktoré sa často snažia oklamať používateľov a donútiť ich zverejniť osobné alebo finančné údaje tým, že falošne tvrdia, že majú problém s počítačom. Tento systém funguje analýzou webových stránok pomocou LLM na detekciu signálov naznačujúcich podvody s technickou podporou, ako je napríklad použitie API na uzamknutie klávesnice. Identifikované bezpečnostné signály sú následne odoslané do služby Safe Browsing na posúdenie, či je stránka pravdepodobne podvodná. Jasika Bawa, Andy Lim a Xinghui Lu z tímu Google Chrome Security uviedli: „Okrem toho, že zabezpečujeme, aby sa LLM spúšťal len zriedka a bežal lokálne na zariadení, starostlivo riadime spotrebu zdrojov monitorovaním počtu tokenov, vykonávaním procesov asynchrónne, aby sme zabránili prerušeniu prehliadača, a zavádzame riadiace mechanizmy ako throttling a kvóty na obmedzenie využitia GPU. “ Google plánuje rozšíriť túto funkciu aj na identifikáciu iných typov podvodov, vrátane tých súvisiacich s sledovaním balíkov a neuhrazenými mýtnymi poplatkami. Táto funkcia má byť tiež spustená na Chrome pre Android koncom tohto roka. Spolu s oznámením spoločnosť zverejnila, že jej systémy na detekciu podvodov poháňané AI boli vylepšené tak, aby zachytili 20-krát viac klamlivých stránok a tieto blokovali vo vyhľadávaní.

Toto zlepšenie významne znížilo počet podvodov s napodobovaním zákazníckej podpory leteckých spoločností o viac ako 80 % a podvodov s oficiálnymi zdrojmi, ako sú víza a vládne služby, o viac ako 70 % v roku 2024. Navyše Google predstavuje novú varovnú funkciu pre Chrome na Android, ktorá využíva model strojového učenia na zariadení na upozornenie používateľov na nechcené notifikácie od škodlivých webových stránok, ktoré sa snažia oklamať ich a presvedčiť ich, aby stiahli podozrivý softvér alebo zverejnili citlivé informácie. Hannah Buonomo a Sarah Krakowiak Criel zo sekcie Chrome Security vysvetlili: „Táto funkcia využíva strojové učenie na zariadení na detekciu a upozorňovanie používateľov na potenciálne klamlivé alebo spamové notifikácie, čo dáva väčšiu kontrolu nad informáciami zobrazovanými na zariadení. Keď Chrome označí notifikáciu ako podozrivú, používateľ uvidí názov odosielajúcej stránky, správu upozorňujúcu, že notifikácia môže byť klamlivá alebo spamová, a možnosti odhlásiť sa zo stránky alebo skontrolovať označený obsah. “ Tieto aktualizácie prichádzajú len necelé dva mesiace po tom, čo Google predstavil funkcie na detekciu podvodov poháňané umelou inteligenciou v aplikácii Messenger na Android. Minulý rok spoločnosť tiež spustila podobné technológie na identifikáciu podvodných hovorov. Nové opatrenia súčasne súvisia s prípravou Google na nasadenie funkcie Pokročilá ochrana v Android 16, ktorá v niektorých aspektoch pripomína stratégiu Apple tým, že zakáže JavaScript, vypne 2G pripojenia a ako štandard zapne viaceré bezpečnostné funkcie vrátane Theft Detection Lock, Offline Device Lock, Android Safe Browsing a ochranu pred spamom v Messengeri.