Am Donnerstag kündigte Google die Einführung neuer KI-basierter Gegenmaßnahmen an, die darauf abzielen, Betrugsversuche auf Chrome-, Such- und Android-Plattformen zu bekämpfen. Das Unternehmen gab bekannt, dass es Gemini Nano, sein auf dem Gerät laufendes großes Sprachmodell (LLM), nutzen wird, um das sichere Surfen in Chrome 137 für Desktop-Nutzer zu verbessern. Google erklärte: „Der Ansatz auf dem Gerät bietet sofortige Einblicke in riskante Webseiten und ermöglicht Schutz auch gegen bisher unbekannte Betrugsversuche. Das LLM von Gemini Nano ist dafür ideal geeignet, weil es die vielfältige und komplexe Natur von Webseiten analysieren kann, was uns eine schnellere Reaktion auf neue Betrugsmaschen erlaubt. “ Der Technologieriese wies außerdem darauf hin, dass derzeit diese KI-basierte Methode eingesetzt wird, um Fernsupport-Betrugsversuche zu bekämpfen. Diese versuchen häufig, Nutzer zu täuschen und in die Falle zu locken, indem sie vorgeben, ein Computerproblem zu haben, das es in Wirklichkeit nicht gibt. Dieses System arbeitet, indem es Webseiten mit dem LLM analysiert, um Signale zu erkennen, die auf Tech-Support-Betrug hindeuten, wie zum Beispiel die Nutzung der Keyboard Lock API. Die erkannten Sicherheitsmerkmale werden dann an Safe Browsing weitergeleitet, um zu beurteilen, ob die Seite wahrscheinlich ein Betrug ist. Jasika Bawa, Andy Lim und Xinghui Lu vom Google Chrome Security-Team erklärten: „Neben der sicheren Triggerung des LLM und der lokalen Ausführung auf dem Gerät verwalten wir die Ressourcennutzung sorgfältig, indem wir die Token-Zählung überwachen, Prozesse asynchron ausführen, um Browser-Unterbrechungen zu verhindern, und Drosselungs- sowie Quotensteuerungen implementieren, um die GPU-Nutzung zu beschränken. “ Google plant, diese Fähigkeit zu erweitern, um auch andere Arten von Betrugsversuchen zu erkennen, einschließlich solcher, die Paketverfolgung und unbezahlte Mautgebühren betreffen.

Diese Funktion soll später in diesem Jahr auch auf Chrome für Android verfügbar sein. Zusätzlich zu dieser Ankündigung teilte Google mit, dass seine KI-gesteuerten Betrugserkennungssysteme verbessert wurden, um 20-mal mehr betrügerische Seiten zu erkennen und zu blockieren, sodass diese Inhalte nicht mehr in den Suchergebnissen erscheinen. Diese Verbesserung hat im Jahr 2024 zu einem Rückgang bei Betrugsversuchen, bei denen Fluggesellschaften im Namen des Kundenservice ausgegeben werden, um über 80 % geführt, sowie bei Betrugsmaschen mit offiziellen Ressourcen wie Visa und staatlichen Diensten um mehr als 70 % reduziert. Darüber hinaus führt Google eine neue Warnfunktion für Chrome auf Android ein, die ein auf dem Gerät laufendes Machine-Learning-Modell nutzt, um Nutzer vor unerwünschten Benachrichtigungen zu warnen, die von bösartigen Webseiten stammen und versuchen, sie dazu zu verleiten, verdächtige Software herunterzuladen oder sensible Informationen zu teilen. Hannah Buonomo und Sarah Krakowiak Criel vom Chrome Security-Team erklärten: „Dieses Feature verwendet maschinelles Lernen auf dem Gerät, um Nutzer vor potenziell irreführenden oder Spam-artigen Benachrichtigungen zu schützen, wodurch sie mehr Kontrolle über die angezeigten Informationen erhalten. Wenn Chrome eine Benachrichtigung als verdächtig markiert, sehen die Nutzer den Namen der sendenden Website, eine Warnmeldung, dass die Benachrichtigung möglicherweise irreführend oder Spam ist, sowie Optionen, sich vom Site abzumelden oder die markierte Nachricht zu überprüfen. “ Diese Updates kommen gut zwei Monate, nachdem Google in der Messages-App auf Android Funktionen zur KI-gestützten Betrugserkennung eingeführt hatte. Im vergangenen Jahr hatte das Unternehmen ähnliche Technologien auch zur Erkennung von Betrugsanrufen eingeführt. Die neue Maßnahmen fallen mit den Vorbereitungen für eine Advanced Protection-Funktion in Android 16 zusammen, die in einigen Aspekten der Strategie von Apple ähnelt: Sie deaktiviert JavaScript, schaltet 2G-Verbindungen aus und aktiviert standardmäßig mehrere Sicherheitsmerkmale, darunter Diebstahlschutz, Offline-Gerätesperre, Android Safe Browsing und Spam-Schutz in Messages.