В четверг Google объявила о запуске новых мер против мошенничества на базе искусственного интеллекта (ИИ), направленных на борьбу с мошенническими схемами в Chrome, Search и Android. Компания сообщила, что начнет использовать Gemini Nano — свою крупную языковую модель (LLM), работающую на устройстве, — для повышения эффективности функции безопасного просмотра в Chrome 137 для настольных устройств. Google объяснила: «Подход с использованием модели на устройстве обеспечивает мгновенный доступ к информации о опасных сайтах и обеспечивает защиту даже от ранее невиданных мошеннических схем. LLM Gemini Nano идеально подходит для этой цели благодаря своей способности анализировать разнообразие и сложность веб-сайтов, что позволяет нам отвечать на новые тактики мошенничества быстрее. » Технологический гигант также отметил, что в настоящее время использует этот ИИ для борьбы с мошенничеством, связанного с удаленной технической поддержкой, когда злоумышленники пытаются обманом заставить пользователей разглашать личные или финансовые данные, fictitiously утверждая о неисправностях компьютера. Эта система анализирует веб-страницы с помощью LLM, чтобы выявить признаки мошенничества с технической поддержкой, такие как использование API блокировки клавиатуры. Обнаруженные сигналы безопасности передаются в Safe Browsing для оценки вероятности мошенничества. Джасика Бауа, Энди Лим и Синхуи Лу из команды по безопасности Chrome прокомментировали: «Кроме того, что мы следим за тем, чтобы LLM срабатывала только по необходимости и работала локально на устройстве, мы также аккуратно управляем использованием ресурсов, контролируя количество токенов, выполняя процессы асинхронно для предотвращения прерываний браузера и внедряя ограничения по использованию GPU — все это для эффективного расхода ресурсов. » Google планирует расширить функцию для выявления других типов мошенничества, включая случаи, связанные с отслеживанием посылок и оплатой непогашенных дорожных сборов. Также ожидается запуск этой функции в Chrome для Android позже в этом году. Помимо этого, Google сообщил о улучшениях в системах обнаружения мошенничества на базе ИИ, благодаря которым удалось блокировать в 20 раз больше обманных страниц, чем ранее, что позволяет исключить их из результатов поиска.

Это существенно снизило случаи мошенничества, когда обманывали, выдавая себя за службу поддержки авиакомпаний (более чем на 80%) и официальные ресурсы, такие как визовые службы и государственные учреждения (более чем на 70%) в 2024 году. Кроме того, Google вводит новую функцию предупреждения в Chrome для Android, которая использует модель машинного обучения на устройстве для уведомления пользователей о нежелательных уведомлениях, отправляемых злоумышленниками с целью обмана и осторожности при скачивании подозрительного программного обеспечения или разглашении конфиденциальной информации. Менеджеры по безопасности Chrome — Ханна Буономо и Сара Краковяк Криель — объяснили: «Эта функция использует машинное обучение на устройстве для выявления и предупреждения пользователей о потенциально обманных или спам-уведомлениях, предоставляя больший контроль над информацией, отображаемой на устройствах. Когда Chrome обнаруживает подозрительное уведомление, пользователь видит название сайта-отправителя, сообщение о том, что уведомление может быть обманным или спамовым, а также опции для отказа от подписки или просмотра контента. » Эти обновления появились чуть больше чем через два месяца после того, как Google представила в приложении Messages на Android функции обнаружения мошенничеств, основанные на ИИ. В прошлом году компания также запустила аналогичные технологии для распознавания мошеннических звонков. Новые меры совпадают с подготовкой Google к внедрению функции Advanced Protection в Android 16, которая в некотором смысле напоминает стратегию Apple, отключая JavaScript, выключая 2G-соединения и по умолчанию включает несколько функций безопасности, такие как блокировка при кражах, офлайн-блокировка устройства, безопасный просмотр в Android и защита от спама в Messages.