木曜日、GoogleはChrome、検索、Androidプラットフォーム全体で詐欺と戦うための新しいAI搭載の対策を発表しました。 同社は、デスクトップユーザー向けのChrome 137のSafe Browsingを強化するために、オンデバイスの大規模言語モデル（LLM）であるGemini Nanoを活用し始めると明らかにしました。 Googleは次のように説明しています。「オンデバイスのアプローチは、危険なウェブサイトについて即座に情報を提供し、これまで見たことのない詐欺に対しても保護を可能にします。Gemini NanoのLLMは、ウェブサイトの多様で複雑な性質を解析できるため、この目的に非常に適しています。これにより、新しい詐欺手口に迅速に対応できるのです。」 また、同社は現在、このAIベースの方法を用いて、リモートのテクサポート詐欺にも対応していることを示しました。これらの詐欺は、存在しないコンピュータの問題を偽り、ユーザーに個人情報や金融情報を漏らさせようとするものです。 このシステムは、ウェブページをLLMで分析し、キーボードロックAPIの使用など、テクサポート詐欺の兆候となる信号を検出します。検出されたセキュリティ信号は、Safe Browsingに送られ、そのページが詐欺の可能性が高いかどうかを評価します。 Google Chromeセキュリティチームのジャシカ・バワ、アンディ・リム、シンホイ・ルーは、「このLLMは限られた頻度でしかトリガーされず、ローカルで動作するようにし、資源の管理にはトークン数の監視、処理の非同期実行、ブラウザの中断を防ぐためのスロットリングとクォータ制御を慎重に行っています」とコメントしています。 Googleは、この技術をさらに展開し、パッケージ追跡や未払い通行料など他の詐欺タイプの検出にも拡大する予定です。この機能は、今年後半にAndroid版Chromeにも導入される見込みです。 この発表とともに、GoogleはAIを活用した詐欺検出システムは、より20倍多くの詐欺ページを検知し、検索結果からブロックできるようになったと伝えています。この改良により、2024年にはエアラインのカスタマーサービスを偽る詐欺が80%以上削減され、ビザや政府サービスを模倣する詐欺も70%以上減少しました。 さらに、GoogleはAndroid版Chrome向けに、新たな警告機能を導入します。この機能は、オンデバイスの機械学習モデルを用いて、悪意のあるウェブサイトから送信される不要な通知に対して警告を表示し、ユーザーに注意喚起します。 Chromeセキュリティのハンナ・ブオノモとサラ・クラコウィアク・クリエルは、「この機能はオンデバイスの機械学習を用いて、欺瞞的または迷惑な通知を検出し、ユーザーに警告を出します。Chromeが通知をフラグ付けした場合、送信元のサイト名とともに、その通知が迷惑または欺瞞的である可能性がある旨のメッセージ、そしてサイトからの購読解除や内容の確認オプションが表示されます」と述べています。 これらのアップデートは、GoogleがAndroidのメッセージングアプリでAIを活用した詐欺検出機能を導入してから約2か月後のことです。去年には、詐欺通話を特定する類似の技術も展開されています。 こうした新たな対策は、GoogleがAndroid 16で用意するアドバンスト・プロテクション機能と連動しており、一部はAppleの戦略を模倣しています。具体的には、JavaScriptを無効にし、2G通信をオフにし、盗難検知ロック、オフラインデバイスロック、Androidセーフブラウジング、スパム保護などの複数のセキュリティ機能をデフォルトで有効にする措置です。