페이스북과 인스타그램의 모회사인 메타는 다시 한 번 플랫폼상의 AI 생성 콘텐츠 처리 문제로 비판을 받고 있다. 회사의 독립 감시 기구인 감시위원회는 메타가 AI 관련 콘텐츠를 위해 전용이고 포괄적인 정책을 마련할 것을 강력히 권고했다. 이는 2025년 이스라엘-이란 분쟁 동안 하이파의 파괴된 건물을 묘사한 가짜 AI 생성 영상이 바이러스처럼 퍼진 사건 이후 나온 조치로, 이 영상은 시청자를 오도하는 목적으로 만들어졌으며, 감시위원회가 개입하기 전 70만 건 이상의 조회수를 기록했다. 위원회는 이 영상에 명확하고 눈에 띄는 경고 문구가 붙지 않은 점을 비판하며, 사용자가 영상의 허구성을 인지할 수 있도록 알릴 수 있었던 점을 지적했다. 또한, 메타는 사용자 신고와 허위 인식에도 불구하고 오도하는 콘텐츠를 충분히 제한하거나 삭제하지 않았다. 감시위원회의 공식 결정은 현재 메타의 AI 콘텐츠 정책에 여러 허점이 있음을 드러내며, 이번 사건이 전 세계적 도전 과제임을 강조했다. 바로 수백만 명을 속이거나 혼란을 일으킬 수 있는 오도하는 AI 제작 미디어의 빠른 확산이다. 첨단 AI 기술은 매우 사실적이면서도 전혀 사실이 아닌 영상과 이미지를 제작하는 것을 가능하게 하며, 이는 소셜 미디어상에서 신속하고 광범위하게 대중 여론에 영향을 미치는 시각적 콘텐츠의 진실성에 심각한 위협이 된다. 세계 최대 플랫폼 중 하나인 메타는 정보 전달에 중요한 역할을 담당하며, 허위 정보를 막기 위해 AI 생성 콘텐츠를 적절히 표시하고, 경고하거나, 삭제하는 책임이 크다. 이 사건은 기존 조치들이 충분하지 않음을 드러내며, AI 특별 도전에 맞춘 최신 프로토콜과 도구의 긴급 도입 필요성을 부각시킨다.

감시위원회는 메타가 AI 생성 콘텐츠를 명확히 정의하고 이를 식별했을 때 취할 조치들을 구체적으로 규정하는 전용 정책 체계 마련을 권고한다. 이 정책은 공개 또는 경고 라벨의 부착, 콘텐츠 검열 강화, 탐지 기술 향상, AI 조작 위험에 대한 투명한 소통을 반드시 포함해야 한다. 이 같은 정책 개발은 사용자 신뢰를 유지하기 위해서만이 아니라, 더 넓은 사회적 허위 정보 문제에 대응하기 위해서도 필수적이다. AI로 만든 허위 콘텐츠는 지정학적 긴장을 심화시키고, 허위 정보 캠페인을 촉진하며, 신뢰할 수 있는 거짓 내러티브를 퍼뜨려 민주적 절차를 훼손할 위험이 있다. 이에 대해 메타는 이러한 도전 과제를 인지하고 있으며, AI 생성 미디어와 가짜 정보 방지책을 강화하기 위해 기존 정책을 재검토하거나 수정할 계획임을 밝혔다. 하이파 영상 사건은 AI 기반 허위 정보가 얼마나 빠르게 확산될 수 있는지 보여주는 중요한 사례로, 소셜 미디어 회사들이 디지털 위협이 계속 진화하는 가운데 항상 경계심을 유지하고 정책과 기술을 지속적으로 보완하는 것이 필요하다는 교훈이다. AI의 콘텐츠 제작 역할이 확대됨에 따라, 메타와 같은 플랫폼은 관련 위험을 관리하고 줄이기 위한 책임이 더욱 커지고 있다. 명확하고 효과적인 AI 콘텐츠 정책을 개발하고 실행하는 것은 사회적 미디어의 정보 정확성과 신뢰성을 지키고, 디지털 시대에 대중을 속임수로부터 보호하는 핵심적 조치이다.