독립 기구인 Oversight Board는 Meta와 관련된 독립기구로서, 현재 Meta의 딥페이크 콘텐츠 정책에 대해 강도 높게 비판하며, AI 생성 영상이 플랫폼 전반에 빠르게 퍼지는 현상을 제대로 다루지 못한다고 지적했습니다. 이 기구는 위기 상황과 선거 기간과 같은 민감한 시기에 특히 고도화된 합성 미디어를 대응하는 Meta의 접근법에 상당한 문제점이 있다고 강조합니다. 현재 Meta는 사용자들이 AI로 생성된 콘텐츠를 인식하고 표시하도록 의존하고 있는데, 이는 현실감 넘치는 딥페이크 영상이 사용자들이 감지하거나 신고하기 전에 빠르게 유포될 수 있어 부족하다는 의견입니다. 이는 정치적 또는 사회적 혼란이 일어날 때 오보와 허위 정보로 인해 대중의 인식이 왜곡되거나 중요한 사건에 영향을 미칠 위험을 안고 있습니다. 이와 같은 비판은, 이스라엘 파괴를 묘사하는 AI 생성 영상 사건을 검토하던 중 드러났으며, 이 사건은 Meta의 딥페이크 감지 능력에 심각한 결함이 있음을 보여줍니다. 영상이 널리 퍼진 것은 정교한 허위 콘텐츠가 현재 안전장치를 얼마나 쉽게 피해갈 수 있는지 보여주는 사례였습니다. 이에 대응하여 Oversight Board는 Meta에 AI 생성 합성 미디어 정책을 전면적으로 개편할 것을 촉구했습니다. 생성형 AI 기술이 현실적인 영상, 이미지, 오디오 제작을 훨씬 더 쉽고 접근 가능하게 만들면서, 진짜와 위조를 구별하는 일이 점점 더 어려워지고 있기 때문입니다. 이는 무제한의 허위 정보 유포 위험을 높이고 있습니다. 이 기구는 Meta와 비슷한 플랫폼들이 선제적 탐지 기술 개발을 포함하여 보호 조치를 강화할 것을 요구하며, 특히 콘텐츠의 성격과 출처에 대해 사용자에게 투명성을 제공할 것을 강조합니다. 플랫폼의 책임을 넘어서서, 사용자 역시 허위 정보를 퇴치하는 데 중요한 역할을 담당한다는 점을 상기시키며, 검증 도구(챗봇 어시스턴트 등)를 이용하고, 여러 사실 확인 출처를 참고하기를 권장합니다.

이러한 다각적 전략은 사용자들이 온라인 정보의 신뢰성을 적극적으로 확보하는 데 도움을 주기 위한 것입니다. AI 기술의 급속한 발전은 소셜 미디어 플랫폼에 지속적인 도전 과제를 제기하고 있습니다. 생성형 AI는 시각적, 청각적, 맥락적 모두 설득력 있는 콘텐츠를 만들어내어, 혁신을 저해하지 않으면서도 신뢰할 수 있는 정책 수립이 필요합니다. Meta의 글로벌 영향력과 범위를 고려할 때, 이들의 정책은 업계의 중요한 선례를 세우고 있습니다. Oversight Board의 비판은 Meta가 합성 미디어에 대한 입장과 전략을 재검토하고 수정할 필요성을 강하게 시사하고 있습니다. 요약하자면, 딥페이크와 AI 기반 허위 정보 문제를 해결하기 위해서는 플랫폼, 정책 입안자, 기술자, 사용자 모두의 협력과 노력이 필수적입니다. 탐지 기능 강화, 정책 혁신, 사용자 인식 제고는 효과적인 대응의 핵심 요소입니다. AI 중심 허위 정보가 점점 더 정교해지는 가운데, 온라인 상에서 진실과 정확성을 지키기 위한 공동 책임이 더욱 절실해지고 있습니다. Meta는 아직 공식적으로 Board의 권고에 대한 답변을 내놓지 않고 있지만, 이번 사건과 검토 결과는 AI로 부풀려진 허위 정보에 대한 강력한 대책 마련의 필요성을 환기시키고 있습니다.