미국의 항공모함이 이란 미사일에 파괴되고, 미국의 폭격기로 핵발전소를 평평하게 만들며, 부르즈 칼리파가 불길에 휩싸인 모습은 사실이 아니다. 이 모든 사건이 실제로 일어난 일은 아니지만, 여전히 사람들은 온라인에 가짜 영상을 공유하는 것을 멈추지 않고 있다. 트럼프가 이란에 대한 주말 공습 이후, 완전히 날조된 듯하지만 매우 현실적인 시나리오의 AI 생성 영상들이 X와 기타 SNS 플랫폼에서 빠르게 퍼지고 있다. 수년간 X(구 트위터)는 긴급 뉴스 속에서 실시간 정보를 전달하는 중요한 도구였지만, 그 역할은 점차 희미해지고 있다. 일론 머스크가 플랫폼을 인수한 이후로, 뉴스 신뢰도는 서서히 떨어지고 있다. 검열은 심각하게 약화됐으며, 알고리즘은 정확성보다 참여도를 우선시한다. 동시에 자원은 자체 문제로 지적받는 AI 플랫폼인 Grok에 쏟아지고 있다. 우리는 이전에도 AI가 만든 정치적으로 민감한 콘텐츠, 예를 들어 이란 시위 중인 제이크 폴 영상 조작 등을 목격했었다. 그러나 이번 베네수엘라와 이란 공습 관련 영상들이 유포되면서, 오도하는 AI 생성 영상의 홍수라는 새로운 지경에 이르게 되었다. 이 콘텐츠들이 가지는 이유는 다양하다.

일부 제작자는 AI를 활용해 트럼프와 네타냐후의 군사 행동을 미화하는 것을 기꺼이 즐기며, 또 다른 일부는 갈등에 대한 의심을 키워 미국 국민의 신뢰를 약화시키고, 정보의 영역을 오염시켜 진실이 불분명해지도록 만들고 있다. 더 우려되는 점은, X의 자체 AI 도구인 Grok이 AI로 생성한 영상을 진짜처럼 잘못 라벨링하는 사례가 늘고 있다는 것이다. (X 측은 즉각적인 답변 요청에 바로 응하지 않았지만, 최근 회사 안전팀의 게시물을 참고하라고 답변했다. ) 지난달, 모더니지의 아리아나 코길은 AI 콘텐츠 전문가인 제레미 카라스코와 이 문제에 대해 이야기를 나누었다. 카라스코는 가짜 콘텐츠에 대해 우려를 표했지만, 더 큰 문제는 이 AI 콘텐츠 홍수가 실제 영상에 대한 신뢰를 얼마나 손상시키는가에 있다고 강조한다. 거짓 영상이 설득력 있고 널리 퍼지면, 사람들은 실제 사건의 영상조차도 믿기 어렵게 된다. 이것이 바로 우리가 지금 직면한 현실이다. 정보를 숙지하는 것이 그 어느 때보다 중요해졌지만, 오늘날에는 눈앞에 있는 사실이라 해도 그것이 진실인지 신중하게 검증하는 것이 더더욱 필요하다.