Ve čtvrtek Google oznámil spuštění nových protiopatření s podporou umělé inteligence (AI), zaměřených na boj proti podvodům na platformách Chrome, Search a Android. Společnost odhalila, že začne využívat Gemini Nano, svůj velký jazykový model (LLM) přímo na zařízení, ke vylepšení funkce Safe Browsing v Chrome 137 pro uživatele na desktopu. Google vysvětlil: „Přístup přímo na zařízení nabízí okamžité poznatky o nebezpečných webových stránkách a umožňuje ochranu i proti dříve neznámým podvodům. LLM Gemini Nano je pro tento účel ideální díky své schopnosti analyzovat rozmanitý a složitý charakter webových stránek, což nám umožňuje mnohem rychleji reagovat na nové taktiky podvodníků. “ Obří technologická společnost také poznamenala, že v současnosti používá tuto metodu založenou na AI k řešení podvodů s dálkovou technickou podporou, které se často snaží oklamat uživatele a donutit je odhalit osobní nebo finanční údaje pod falešnou záminkou neexistujícího problému s počítačem. Tento systém funguje tak, že analyzuje webové stránky pomocí LLM a detekuje signály naznačující podvody s technickou podporou, například použití API zamykání klávesnice. Identifikované bezpečnostní signály jsou poté předávány funkci Safe Browsing, která posoudí, zda je stránka pravděpodobně podvodem. Jasika Bawa, Andy Lim a Xinghui Lu ze týmu Google Chrome Security uvedli: „Kromě toho, že zajišťujeme, aby byl LLM aktivován jen střídmě a běžel lokálně na zařízení, přísně sledujeme využívání zdrojů tím, že monitorujeme počet tokenů, provádíme procesy asynchronně, aby nedošlo k přerušení prohlížeče, a zavádíme omezení přístupu na GPU pomocí throttlingu a kvót. “ Google hodlá tuto schopnost rozšířit tak, aby detekovala i jiné typy podvodů, například ty s sledováním balíčků nebo neuhrazenými mýtnými. Tento prvek má být také spuštěn později letos na Chrome pro Android. Kromě tohoto oznámení společnost Google oznámila, že její systémy pro detekci podvodů založené na AI byly vylepšeny tak, aby zachytily 20krát více klamavých stránek a takovéto obsahy blokovaly ve výsledcích vyhledávání.

Tento pokrok výrazně snížil podvody s napodobováním zákaznické podpory leteckých společností o více než 80 % a podvody s oficiálními zdroji jako jsou víza nebo vládní služby o více než 70 % v roce 2024. Dále Google představuje novou varovnou funkci pro Chrome na Androidu, která využívá model strojového učení na zařízení k upozornění uživatelů na nechcená upozornění od škodlivých webových stránek, jejichž cílem je podvodně je přimět ke stažení podezřelého softwaru nebo ke sdílení citlivých informací. Hannah Buonomo a Sarah Krakowiak Criel ze security týmu Chrome vysvětlily: „Tato funkce využívá strojové učení přímo na zařízení k detekci a varování uživatelů před potenciálně klamavými nebo spamovými upozorněními, čímž jim dává větší kontrolu nad informacemi na jejich zařízení. Při oznámení Chrome uživatel uvidí název serveru odesílatele, zprávu upozorňující, že upozornění může být klamavé nebo spamové, a možnosti odhlašení nebo přezkoumání obsahu. “ Tato vylepšení přicházejí pouhé dva měsíce poté, co Google představil funkce detekce podvodů založené na AI v aplikaci Messages na Androidu. Minulý rok společnost také zavedla podobné technologie pro rozpoznávání podvodných hovorů. Nová opatření souvisejí s přípravou Google na zavedení funkce Advanced Protection v Androidu 16, která v některých ohledech připomíná strategii Apple tím, že zakáže JavaScript, vypne připojení 2G a ve výchozím nastavení aktivuje řadu bezpečnostních funkcí, včetně Theft Detection Lock, Offline Device Lock, Android Safe Browsing a ochrany před spamem v aplikaci Messages.