El jueves, Google anunció el lanzamiento de nuevas medidas contra fraudes impulsadas por inteligencia artificial (IA) destinadas a combatir las estafas en las plataformas Chrome, Search y Android. La empresa reveló que comenzará a utilizar Gemini Nano, su modelo de lenguaje grande (LLM) en el dispositivo, para mejorar la navegación segura en Chrome 137 para usuarios de escritorio. Google explicó: "El enfoque en el dispositivo ofrece información inmediata sobre sitios web peligrosos y permite protección incluso contra fraudes previamente desconocidos. El LLM de Gemini Nano es ideal para este propósito debido a su capacidad para analizar la naturaleza diversa y compleja de los sitios web, lo que nos permite responder más rápidamente a nuevas tácticas de fraude. " El gigante tecnológico también señaló que actualmente está empleando este método basado en IA para abordar las estafas de soporte técnico remoto, que suelen intentar engañar a los usuarios para que revelen datos personales o financieros, alegando falsamente un problema inexistente en su computadora. Este sistema funciona analizando las páginas web mediante el LLM para detectar señales indicativas de estafas de soporte técnico, como el uso de la API de bloqueo del teclado. Las señales de seguridad identificadas se transmiten a Safe Browsing para evaluar si la página es probable que sea una estafa. Jasika Bawa, Andy Lim y Xinghui Lu, del equipo de Seguridad de Google Chrome, comentaron: "Además de garantizar que el LLM se active solo ocasionalmente y funcione localmente en el dispositivo, gestionamos cuidadosamente el uso de recursos monitorizando la cantidad de tokens, ejecutando los procesos de forma asíncrona para evitar interrupciones en el navegador y aplicando controles de limitación y cuotas para restringir el uso de GPU. " Google tiene previsto ampliar esta capacidad para identificar otros tipos de fraudes, como los relacionados con el seguimiento de paquetes y peajes no pagados. Se espera que esta función también se lance en Chrome para Android más adelante este año. Junto con este anuncio, Google compartió que sus sistemas de detección de fraudes potenciados por IA han mejorado para detectar 20 veces más páginas engañosas, bloqueando dicho contenido de los resultados de búsqueda.

Esta mejora ha reducido significativamente las estafas que se hacen pasar por servicios de atención al cliente de aerolíneas en más de un 80%, y las que imitan recursos oficiales como visas y servicios gubernamentales en más del 70% en 2024. Además, Google está introduciendo una nueva función de advertencia para Chrome en Android que utiliza un modelo de aprendizaje automático en el dispositivo para alertar a los usuarios sobre notificaciones no deseadas enviadas por sitios web maliciosos, diseñadas para engañarlos y hacer que descarguen software sospechoso o compartan información sensible. Hannah Buonomo y Sarah Krakowiak Criel del equipo de Seguridad de Chrome explicaron: "Esta función usa aprendizaje automático en el dispositivo para detectar y advertir a los usuarios sobre notificaciones potencialmente engañosas o spam, ofreciendo mayor control sobre la información mostrada en los dispositivos. Cuando Chrome detecta una notificación sospechosa, los usuarios verán el nombre del sitio remitente, un mensaje advirtiendo que la notificación podría ser engañosa o spam, y opciones para darse de baja del sitio o revisar el contenido señalado. " Estas actualizaciones llegan poco más de dos meses después de que Google introdujera funciones impulsadas por IA para detectar fraudes en la aplicación Mensajes en Android. El año pasado, la empresa también implementó tecnologías similares para identificar llamadas fraudulentas. Las nuevas medidas coinciden con la preparación de Google de una función de Protección Avanzada en Android 16, que en ciertos aspectos se asemeja a la estrategia de Apple al desactivar JavaScript, apagar conexiones 2G y habilitar múltiples funciones de seguridad por defecto, incluyendo Bloqueo por Detección de Robo, Bloqueo Offline del Dispositivo, Navegación Segura en Android y protección contra spam en Mensajes.