W czwartek Google ogłosił uruchomienie nowych środków przeciwdziałania oszustwom opartych na sztucznej inteligencji (SI), mających na celu walkę z oszustwami na platformach Chrome, Search i Android. Firma ujawniła, że zacznie wykorzystywać Gemini Nano, swój model językowy dużej skali (LLM) działający na urządzeniu, w celu poprawy funkcji Safe Browsing w Chrome 137 dla użytkowników komputerów stacjonarnych. Google wyjaśnił: „Podejście oparte na urządzeniu zapewnia natychmiastowe informacje na temat niebezpiecznych stron internetowych i umożliwia ochronę nawet przed wcześniej nieznanymi oszustwami. LLM Gemini Nano jest do tego idealny ze względu na jego zdolność do analizowania różnorodnej i złożonej natury stron internetowych, co pozwala nam szybciej reagować na nowe taktyki oszustów. ” Gigant technologiczny dodał również, że obecnie wykorzystuje tę metodę opartą na SI do zwalczania oszustw związanych z zdalnym wsparciem technicznym, które często próbują oszukać użytkowników, nakłaniając ich do ujawnienia danych osobowych lub finansowych, fałszywie twierdząc, że występuje problem z komputerem. System działa poprzez analizę stron internetowych za pomocą LLM, aby wykryć sygnały wskazujące na oszustwa związane z wsparciem technicznym, takie jak użycie API blokady klawiatury. Zidentyfikowane sygnały bezpieczeństwa są następnie przekazywane do Safe Browsing, który ocenia, czy strona prawdopodobnie jest oszustwem. Jasika Bawa, Andy Lim i Xinghui Lu z zespołu ds. bezpieczeństwa Google Chrome skomentowali: „Oprócz zapewnienia, że LLM jest wywoływany tylko sporadycznie i działa lokalnie na urządzeniu, starannie zarządzamy korzystaniem z zasobów poprzez monitorowanie liczby tokenów, wykonywanie procesów asynchronicznie, żeby zapobiec zakłóceniom w przeglądarce, oraz wprowadzanie mechanizmów ograniczających i limitów zużycia GPU. ” Google planuje rozszerzyć tę funkcję na identyfikację innych rodzajów oszustw, w tym tych związanych z śledzeniem pakietów i nieopłaconą opłatą drogową.

Funkcja ta ma również zostać udostępniona na Chrome dla Androida jeszcze w tym roku. W związku z tym Google poinformował, że jego systemy wykrywania oszustw napędzane SI zostały ulepszone, aby wykrywać 20 razy więcej oszukańczych stron, blokując tego typu treści w wynikach wyszukiwania. To ulepszenie znacząco zmniejszyło ilość oszustw podszywających się pod obsługę klienta linii lotniczych o ponad 80% oraz te naśladujące oficjalne zasoby, takie jak wizy czy instytucje rządowe, o ponad 70% w 2024 roku. Ponadto Google wprowadza nową funkcję ostrzegania w Chrome na Androidzie, która korzysta z modelu uczenia maszynowego działającego na urządzeniu, aby ostrzegać użytkowników o niechcianych powiadomieniach wysyłanych przez złośliwe strony internetowe, mających na celu oszukanie ich i nakłonienie do pobrania podejrzanego oprogramowania lub ujawnienia poufnych informacji. Hannah Buonomo i Sarah Krakowiak Criel z zespołu Chrome Security wyjaśniły: „Ta funkcja korzysta z uczenia maszynowego działającego na urządzeniu, aby wykrywać i ostrzegać użytkowników o potencjalnie zwodniczych lub spamowych powiadomieniach, dając większą kontrolę nad informacjami wyświetlanymi na urządzeniach. Kiedy Chrome oznacza powiadomienie jako potencjalnie zwodnicze, widzisz nazwę witryny nadawcy, komunikat ostrzegający, że powiadomienie może być zwodnicze lub spamowe, oraz opcje wypisania się z subskrypcji lub przeglądania oznaczonej treści. ” Te aktualizacje pojawiają się nieco ponad dwa miesiące po tym, jak Google wprowadził funkcje wykrywania oszustw oparte na SI w aplikacji Wiadomości na Androida. W ubiegłym roku firma uruchomiła również podobne technologie do rozpoznawania oszukańczych połączeń. Nowe środki zbiegają się z przygotowaniami Google do wprowadzenia funkcji Zaawansowanej Ochrony w Android 16, która w niektórych aspektach przypomina strategię Apple, poprzez wyłączanie JavaScript, wyłączanie połączeń 2G i domyślne włączanie wielu funkcji bezpieczeństwa, w tym blokady wykrywania kradzieży, blokady offline, Android Safe Browsing oraz ochrony przed spamem w Messages.