목요일, 구글은 Chrome, 검색 및 Android 플랫폼 전반에 걸쳐 사기를 방지하는 새로운 인공지능(AI) 기반 대응책을 발표했습니다. 이 회사는 데스크톱 사용자용 Chrome 137의 Safe Browsing 기능 향상을 위해 기기 내 대형 언어 모델(LLM)인 Gemini Nano를 활용하기 시작했다고 밝혔습니다. 구글은 "기기 내 방식은 위험한 웹사이트에 대한 즉각적인 통찰을 제공하며, 이전에 보지 못했던 사기에도 보호 기능을 발휘할 수 있습니다. Gemini Nano의 LLM은 웹사이트의 다양하고 복잡한 특성을 분석하는 데 적합하며, 새로운 사기 수법에 더 빠르게 대응할 수 있게 해줍니다. "라고 설명했습니다. 이 기술 대기업은 또한 현재 이 AI 기반 방식을 원격 기술 지원 사기에 대응하는 데 사용하고 있다고 덧붙였습니다. 이들은 종종 존재하지 않는 컴퓨터 문제를 조작하여 사용자를 속이고 개인정보 또는 금융 정보를 빼내려고 시도하는 사기입니다. 이 시스템은 LLM을 사용하여 웹페이지를 분석함으로써 키보드 잠금 API와 같은 기술 지원 사기의 신호를 탐지합니다. 이후 식별된 보안 신호는 Safe Browsing으로 전달되어 해당 페이지가 사기일 가능성을 평가합니다. 구글 크롬 보안팀의 Jasika Bawa, Andy Lim, Xinghui Lu는 "이 LLM이 적게 작동하며 로컬에서 실행되도록 하는 것뿐만 아니라, 토큰 수를 모니터링하고, 비동기적으로 프로세스를 수행하며, GPU 사용량을 제한하는 쓰로틀링과 할당량 제어를 시행하여 자원 사용을 신중히 관리한다"고 말했습니다. 구글은 이 기능을 패키지 추적, 통행료 미지급 등 다른 유형의 사기를 식별하는 데도 확장할 계획이며, 올해 말에는 Android용 Chrome에서도 이 기능이 출시될 예정입니다. 이와 함께 구글은 AI 기반 사기 탐지 시스템이 더 정교해져서 20배 더 많은 속임수 페이지를 걸러내 검색 결과에서 차단했다고 밝혔습니다.

이 개선으로 2024년에는 항공사 고객센터 사기를 80% 이상, 비자와 정부 서비스 등 공식 자원을 흉내 내는 사기도 70% 이상 줄어들었습니다. 또한, 구글은 Android용 Chrome에 새롭게 도입된 경고 기능을 선보였는데, 이 기능은 기기 내 머신러닝 모델을 활용하여 악성 웹사이트가 보내는 원치 않는 알림을 사용자에게 경고합니다. 이는 사용자들이 의심스러운 소프트웨어 다운로드 또는 민감한 정보 공유를 유도하는 사기성 알림을 인지하게 돕기 위함입니다. Chrome 보안팀의 Hannah Buonomo와 Sarah Krakowiak Criel은 "이 기능은 기기 내 머신러닝을 사용하여 잠재적으로 속이거나 스팸성 알림을 감지하고 사용자에게 경고합니다. Chrome이 알림을 플래그할 경우, 사용자에게 발신 사이트명과 함께 그 알림이 속임수 또는 스팸일 가능성이 있다는 메시지, 그리고 사이트 구독 해지 또는 검토 옵션이 표시됩니다. "라고 설명했습니다. 이들 업데이트는 구글이 Android 메시지 앱에서 인공지능 기반 사기 탐지 기능을 선보인 지 불과 두 달 만에 나온 것이라고 합니다. 작년에는 사기 전화도 식별하는 유사한 기술이 도입되었다고 합니다. 이러한 새로운 조치는 구글이 Android 16에 ‘고급 보호(Advanced Protection)’ 기능을 준비하는 것과도 동시에 일어나고 있으며, 이는 일부 측면에서 애플의 전략과 유사하게 자바스크립트를 비활성화하고 2G 연결을 끄며, 도난 탐지 잠금, 오프라인 장치 잠금, Android Safe Browsing, 메시지 내 스팸 보호 기능 등 여러 보안 기능을 기본으로 활성화하는 조치입니다.