В четвъртък Google обяви пускането на нови контрамерки, базирани на изкуствен интелект (ИИ), предназначени да се борят с измамите в платформите Chrome, Search и Android. Компанията разкри, че ще започне да използва Gemini Nano, своя локален модел за голям езиков модел (LLM), за да подобри функцията Safe Browsing в Chrome 137 за десктоп потребителите. Google обясни: „Локалният подход предлага незабавни прозрения за рискови уебсайтове и осигурява защита дори срещу досега непознати измами. LLM на Gemini Nano е подходящ за тази цел заради способността си да разбира разнообразната и сложна природа на уебсайтовете, което ни позволява да реагираме по-бързо на нови тактики за измами. “ Гигантът в технологиите също така посочи, че в момента използва този ИИ-базиран метод за борба с измамите, свързани с отдалечена техническа поддръжка, които често целят да заблудят потребителите да разкрият лични или финансови данни чрез фалшиви твърдения за несъществуващи компютърни проблеми. Тази система работи чрез анализ на уеб страници с помощта на LLM за откриване на сигнали, които индикират измами, свързани с техническа поддръжка, като например използването на API за заключване на клавиатурата. Идентифицираните сигнали за сигурност след това се препращат към Safe Browsing за оценка дали страницата е вероятна измама. Джасика Бауама, Анджи Лим и Сингхуи Лу от екипа по сигурността на Google Chrome коментираха: „Освен че гарантираме, че LLM се активира само рядко и работи локално на устройството, ние внимателно управляваме използването на ресурси чрез следене на броя на токените, изпълнение на процеси асинхронно, за да се избегнат прекъсвания в браузъра, както и чрез прилагане на ограничения и контрол на квоти за употреба на GPU. “ Google планира да разшири тази възможност за разпознаване и на други видове измами, включително такива, свързани с проследяване на пратки и неплатени такси. Очаква се тази функция да бъде пусната и за Chrome на Android по-късно тази година. Заедно с това съобщение, Google сподели, че системите за откриване на измами, базирани на ИИ, са подобрени, за да улавят 20 пъти повече измамни страници, като блокират такова съдържание в резултатите от търсенето.

Този подобрение значително е намалило измамите с имитиране на авиокомпании, които преодоляват с над 80%, и имитация на официални ресурси като визи и държавни услуги с над 70% през 2024 година. Освен това, Google въвежда нова предупредителна функция за Chrome на Android, която използва локален модел за машинно обучение, за да уведомява потребителите за нежелани известия, изпратени от злонамерени уебсайтове, целящи да заблудят ги да изтеглят подозрителен софтуер или да споделят чувствителна информация. Хана Буономо и Сара Краковиак Криел от екипа по сигурност на Chrome обясниха: „Тази функция използва локално машинно обучение за откриване и предупреждаване на потребителите за потенциално заблуждаващи или спам известия, осигурявайки по-голям контрол върху информацията, показвана на устройствата. Когато Chrome сигнализира за известие, потребителите ще виждат името на сайта изпращач, съобщение, че известието може да е подвеждащо или спамово, както и опции за абониране или преглед на маркираното съдържание. “ Тези актуализации идват малко повече от два месеца след въвеждането на функции за откриване на измами, базирани на ИИ, в приложението Messages за Android. Миналата година компанията въведе подобни технологии за разпознаване на измамни обаждания. Новите мерки съвпадат и с подготовката от Google на функция за Разширена защита в Android 16, която по някои аспекти напомня стратегията на Apple чрез деактивиране на JavaScript, изключване на 2G връзки и активиране по подразбиране на множество защити като Theft Detection Lock, Offline Device Lock, Android Safe Browsing и защита от спам в Messages.