러시아의 허위 정보 네트워크가 AI 챗봇을 조작하여 선전을 퍼뜨립니다.

Brief news summary

뉴스가드의 연구에 따르면, 러시아의 허위정보 매체 프라브다는 서방의 AI 챗봇을 이용해 친크렘린 내러티브를 퍼뜨리고 있으며, 특히 미국의 사이버 방어력이 약화됨에 따라 이러한 일이 일어나고 있다. 보고서는 주요 챗봇들이 의도치 않게 프라브다의 허위 정보를 3분의 1 이상 공유하고 있음을 밝혀냈으며, 이는 잘못된 정보가 AI 훈련 데이터셋의 일부가 되는 "LLM 그루밍"에 대한 우려를 불러일으킨다. 2022년 4월 우크라이나 침 invasion 간에 설립된 프라브다는 49개국으로 그 범위를 확대했고, 국가 및 동맹 미디어의 콘텐츠를 큐레이션하여 수백만 개의 친러시아 기사를 생산했다. 그 영향력은 X, 텔레그램, 블루스카이 등 여러 플랫폼에 걸쳐 있다. ChatGPT-4와 구글 제미니를 포함한 10개의 챗봇을 조사한 결과, 모든 챗봇이 프라브다의 메시지를 강화하고 특정 기사를 인용하고 있는 것으로 나타났다. 전문가들은 미국의 감독이 약화되면 허위 정보의 광범위한 확산이 촉진될 수 있으며, 이는 러시아의 영향력을 악화시키고 세계 민주적 논의의 진실성을 위협할 수 있다고 경고하고 있다.

연구자들은 서구 AI 챗봇을 조작하여 프로 크렘린 선전을 퍼뜨리는 방대한 러시아 허위 정보 네트워크를 확인했습니다. 특히 미국이 모스크바에 대한 사이버 작전을 일시 중지한 것으로 보도됨에 따라 이 네트워크의 활동이 두드러지게 나타나고 있습니다. 모스크바에 본사를 둔 자금을 잘 지원받는 ‘프라우다 네트워크’는 프로 러시아 허위 정보를 대량 언어 모델(LLM)에 쏟아 부어 AI 챗봇의 출력을 왜곡합니다. NewsGuard의 연구에 따르면, ChatGPT-4 및 Microsoft의 Copilot과 같은 주요 챗봇들이 프라우다 네트워크의 허위 정보를 33% 이상 반복적으로 인용하여 친모스크바 내러티브를 발전시키고 있습니다. 이번 연구는 "LLM 그루밍"이라는 더 광범위한 우려를 강조하며, 허위 정보가 의도적으로 챗봇을 목표로 삼아 더 넓은 청중에게 도달하려 한다고 지적했습니다. NewsGuard의 보고서는 약 360만 개의 러시아 선전 기사가 현재 서구 AI 출력에 통합되어 그 신뢰성을 훼손하고 있다고 제안했습니다.

아메리칸 선라이트 프로젝트의 니나 얀코비츠는 확대되는 러시아의 영향력 작전이 전 세계 민주적 담론에 위협이 될 수 있다고 경고하며, 프라우다 네트워크가 이러한 규모로 허위 정보를 퍼뜨릴 수 있는 능력이 AI 시스템에 중대한 위험을 초래한다고 강조했습니다. 게다가 2022년 4월 시작된 이 네트워크는 49개국과 여러 언어에 영향을 미치며 우크라이나에 있는 미국 생물무기 실험실의 존재와 같은 주장에 반박하고 있습니다. 특히 뉴스가드가 연구한 10개의 챗봇 모두가 프라우다의 허위 정보를 인용했으며, 일부는 특정 기사를 직접 언급하기도 했습니다. 존 마크 두간과 같은 인물의 영향력은 AI의 인식을 재구성하기 위해 허위 정보를 전략적으로 사용하는 것을 더욱 강조합니다. 미국의 감독이 감소함에 따라 전문가들은 이 허위 정보가 더욱 보편화될 수 있다고 경고하고 있으며, 이는 우크라이나 갈등을 둘러싼 정치적 역학 변화 속에서 러시아에 대한 미국의 사이버 작전 일시 중지와 일치합니다.