Pada hari Kamis, Google mengumumkan peluncuran langkah-langkah antiscam yang didukung oleh kecerdasan buatan (AI) baru untuk melawan penipuan di platform Chrome, Search, dan Android. Perusahaan mengungkapkan bahwa mereka akan mulai menggunakan Gemini Nano, model bahasa berskala besar (LLM) yang berjalan di perangkat, untuk meningkatkan Safe Browsing di Chrome 137 untuk pengguna desktop. Google menjelaskan, "Pendekatan di perangkat menawarkan wawasan langsung tentang situs web berisiko dan memungkinkan perlindungan bahkan terhadap penipuan yang sebelumnya tidak pernah terlihat. LLM Gemini Nano sangat cocok untuk tujuan ini karena kemampuannya dalam menganalisis sifat yang beragam dan kompleks dari situs web, sehingga kami dapat merespons lebih cepat terhadap taktik penipuan yang baru. " Perusahaan teknologi tersebut juga menyebutkan bahwa saat ini mereka sedang menggunakan metode berbasis AI ini untuk mengatasi penipuan dukungan teknologi jarak jauh, yang sering kali mencoba menipu pengguna agar mengungkapkan informasi pribadi atau keuangan dengan klaim palsu tentang masalah komputer yang tidak nyata. Sistem ini bekerja dengan menganalisis halaman web menggunakan LLM untuk mendeteksi sinyal yang mengindikasikan penipuan dukungan teknologi, seperti penggunaan API penguncian keyboard. Sinyal keamanan yang terdeteksi kemudian dikirim ke Safe Browsing untuk menilai apakah halaman tersebut kemungkinan penipuan. Jasika Bawa, Andy Lim, dan Xinghui Lu dari tim Keamanan Chrome Google, mengomentari, "Selain memastikan bahwa LLM hanya diaktifkan secara terbatas dan berjalan secara lokal di perangkat, kami juga mengelola penggunaan sumber daya dengan memantau jumlah token, menjalankan proses secara asinkron untuk mencegah gangguan pada browser, serta menerapkan kendali throttling dan kuota untuk membatasi penggunaan GPU. " Google berencana memperluas kemampuan ini untuk mengidentifikasi jenis penipuan lain, termasuk yang melibatkan pelacakan paket dan bayar tol yang belum dibayar. Fitur ini juga diperkirakan akan diluncurkan di Chrome untuk Android tahun ini. Bersamaan dengan pengumuman ini, Google mengungkapkan bahwa sistem deteksi penipuan berbasis AI-nya telah ditingkatkan sehingga mampu menangkap 20 kali lipat lebih banyak halaman palsu dan memblokir konten tersebut dari hasil pencarian.

Peningkatan ini secara signifikan mengurangi penipuan yang menyamar sebagai layanan pelanggan maskapai penerbangan lebih dari 80% dan yang meniru sumber resmi seperti visa dan layanan pemerintah lebih dari 70% pada tahun 2024. Selain itu, Google memperkenalkan fitur peringatan baru untuk Chrome di Android yang menggunakan model machine learning di perangkat untuk memberi tahu pengguna tentang notifikasi yang tidak diinginkan dari situs web berbahaya yang bertujuan menipu mereka agar mengunduh perangkat lunak mencurigakan atau berbagi data sensitif. Hannah Buonomo dan Sarah Krakowiak Criel dari Tim Keamanan Chrome menjelaskan, "Fitur ini menggunakan machine learning di perangkat untuk mendeteksi dan memperingatkan pengguna tentang notifikasi yang berpotensi menipu atau spam, memberikan kontrol lebih besar terhadap informasi yang ditampilkan di perangkat. Ketika Chrome menandai sebuah notifikasi, pengguna akan melihat nama situs pengirim, pesan yang memperingatkan bahwa notifikasi tersebut mungkin menipu atau spam, serta opsi untuk berhenti berlangganan dari situs tersebut atau meninjau konten yang ditandai. " Pembaruan ini muncul sedikit lebih dari dua bulan setelah Google memperkenalkan fitur deteksi penipuan berbasis AI di aplikasi Messages di Android. Tahun lalu, perusahaan juga meluncurkan teknologi serupa untuk mengidentifikasi panggilan penipuan. Langkah-langkah baru ini bertepatan dengan persiapan Google terhadap fitur Perlindungan Tingkat Lanjut di Android 16, yang dalam beberapa hal menyerupai strategi Apple dengan menonaktifkan JavaScript, mematikan koneksi 2G, dan mengaktifkan berbagai fitur keamanan secara default, termasuk Theft Detection Lock, Offline Device Lock, Android Safe Browsing, dan perlindungan spam di Messages.