У четвер, компанія Google оголосила про запуск нових контрзаходів з використанням штучного інтелекту (ШІ), спрямованих на боротьбу з шахрайством у Chrome, Search та Android. Компанія повідомила, що почне використовувати Gemini Nano — свою вбудовану модель великого мовлення (LLM), щоб підсилити функцію Safe Browsing у Chrome 137 для користувачів настільних комп’ютерів. Google пояснила: «Підхід із використанням локальної моделі забезпечує негайне розпізнавання ризикових сайтів та дозволяє захищати навіть від раніше невидань шахрайських схем. LLM Gemini Nano ідеально підходить для цього завдання завдяки своїй здатності аналізувати різноманітні та складні сайти, що дозволяє швидше реагувати на нові тактики шахраїв. » Техногігант також зауважив, що наразі використовує цей ШІ-метод для боротьби зі шахрайством під виглядом технічної підтримки, яке часто намагається обманути користувачів, змушуючи їх повідомити особисті або фінансові дані, неправдиво стверджуючи про неіснуючу проблему з комп’ютером. Ця система працює шляхом аналізу веб-сторінок за допомогою LLM для виявлення сигналів, що свідчать про шахрайство з техпідтримкою, наприклад, використання API блокування клавіатури. Виявлені сигнали безпеки передаються до Safe Browsing для оцінки, чи ймовірно, що сторінка є шахрайською. Члени команди Google Chrome з безпеки — Джасіка Бова, Еллі Лім і Сінгхуй Лу — прокоментували: «Окрім того, що ми забезпечуємо рідкісне й локальне спрацьовування LLM на пристрої, ми ретельно контролюємо використання ресурсів, моніторингуючи кількість токенів, виконуючи процеси асинхронно, щоб уникнути переривань браузера, та застосовуємо обмеження пропускної здатності й квоти для обмеження використання GPU. » Google має намір розширити цю функцію для виявлення інших видів шахрайства, зокрема тих, що пов’язані з відстеженням посилок і несплаченими пожежами. Передбачається, що ця функція з’явиться у Chrome для Android вже цього року. Разом із цим оголошенням, Google повідомила, що її системи виявлення шахрайства на базі ШІ стали у 20 разів ефективнішими у виявленні шахрайських сторінок, блокуючи такий контент у пошукових результатах.

Це значно зменшило кількість шахрайств з імітацією обслуговування авіакомпаній на понад 80% та шахрайські ресурси, що імітують офіційні сервісні сторінки, наприклад візи та державні служби, більш ніж на 70% у 2024 році. Крім того, Google впроваджує нову функцію попередження для Chrome на Android, яка використовує локальну модель машинного навчання для інформування користувачів про небажані повідомлення від зловмисних сайтів, спрямованих обдурити їх і завантажити підозрілі програми або розкрити конфіденційну інформацію. Команда Chrome Security — Ханна Буономо та Сара Крактвак Кріїль — пояснили: «Ця функція використовує локальне машинне навчання для виявлення та попередження користувачів про потенційно оманливі чи спамові повідомлення, даючи більший контроль над інформацією, що відображається на пристроях. Коли Chrome позначає повідомлення як потенційно шкідливе, користувачі бачать ім’я сайту-джерела, повідомлення про можливу шахрайську природу повідомлення та вибір відписатися від сайту або переглянути позначений вміст. » Ці оновлення з’явилися менш ніж через два місяці після того, як Google впровадила функції виявлення шахрайства на базі ШІ в додатку Messages для Android. Минулого року компанія також запровадила схожі технології для виявлення шахрайських дзвінків. Нові заходи збігаються з підготовкою Google до запуску функції «Доповнена Захист» у Android 16, яка в певних аспектах нагадує стратегію Apple, оскільки вона вимикає JavaScript, відключає 2G-з’єднання та за замовчуванням активує кілька заходів безпеки, зокрема Lock Theft Detection, Offline Device Lock, Android Safe Browsing і захист від спаму у Messages.