OpenAI의 소라 앱으로 제작된 영상들이 TikTok과 Instagram Reels와 같은 플랫폼을 빠르게 점령하면서, 인공적으로 만들어진 AI 생성 콘텐츠가 거의 피할 수 없게 되고 있습니다—이로 인해 많은 사용자들이 점점 더 불만을 느끼고 있습니다. 그러나 디지털 안전 전문가들은 더 깊고 덜 명백한 영향을 경고합니다: OpenAI는 실질적으로 딥페이크를 장난스럽고 주류 트렌드로 재포장했으며, 추천 알고리즘에 의해 열광적으로 홍보되고 있습니다. 수백만이 이러한 영상을 접하면서, 진실에 대한 인식과 온라인 규범이 재형성되고 있습니다. 전 TikTok 신뢰 및 안전 책임자인 데이지 소더버그-리브킨은 이를 딥페이크가 "홍보 담당자와 유통 계약"을 얻으며 이미 우려를 낳고 있는 기술을 새롭고 광범위한 플랫폼으로 확장하는 것이라고 설명했습니다. Bluesky의 신뢰 및 안전 부서 책임자인 아론 로더릭스는 현실과 허구의 경계가 희미해지는 것에 대해 사회가 준비되지 않았으며, 신원에 맞는 가짜 증거 또는 개인을 표적으로 하는 꾸며진 사기, 대규모 사기 같은 리스크가 크다고 경고했습니다. 대부분의 사용자들은 미디어를 읽는 능력이나 증명하는 도구가 부족하기 때문에 진실과 허구를 구별하기 어렵습니다. 네 명의 전 OpenAI 직원들은 NPR과의 인터뷰에서 Sora의 출시를 놀랍게 여기지 않으며, 이는 투자자 압박 속에서 새로운 영상 기술을 선보이기 위한 전략적 움직임이라고 평가했습니다. OpenAI는 중재, 사기 및 폭력, 포르노에 대한 금지, 워터마킹, 이미지 유사성 활용 통제 등 여러 안전 장치를 도입했지만, 사용자들이 이를 뛰어넘는 방법을 찾으면서 운영 측은 계속 대응하고 있습니다. 한 익명의 전 OpenAI 직원은 AI 생성 영상 소셜 미디어 경쟁이 치열해지면서 안전 규정이 약화될 가능성을 우려하며, 이는 사회에 해로울 수 있다고 지적했습니다. 소더버그-리브킨은 규제되지 않은 Sora와 유사한 앱들이 등장할 것으로 내다보며, 이들이 엘론 머스크의 그록(Grok) 챗봇처럼 유해한 인공 콘텐츠, 예를 들어 아동 성착취물이나 국가 후원 정교한 선전물을 제작하는 데 악용될 가능성을 경고했습니다. 현재 Sora는 아이폰 앱 중 가장 인기 있지만, 초대장만으로 사용할 수 있습니다.

사용자들은 인물 흉내 내기와 극단적인 가짜 영상(예를 들어 가짜 제프리 엡스타인 영상이나 숀 “디디” 컴스의 교도소 발표 등)의 제작이 더 어려워지고 있다고 느끼고 있습니다. 그럼에도 여전히 체포 장면이나 나치 제복 차림의 영상과 같은 논란성 콘텐츠는 계속 만들어지고 있습니다. OpenAI의 사장인 샘 올트만은 앞으로 유사성을 이용하는 방식을 “옵트아웃”에서 “옵트인”으로 바꾸고, 점차 권리자와 수익을 공유하겠다고 발표하면서, 초기 ChatGPT 시절과 유사하게 빠르게 발전하고 있음을 시사했습니다. 인공지능 생성 콘텐츠의 홍수는 사용자 피로와 플랫폼의 규제 또는 차단 여부에 관한 의문을 야기합니다. 소더버그-리브킨은 금지 가능성은 낮으며, 설사 금지하더라도 AI 콘텐츠를 텍스트, 이미지, 영상 등에서 감지하는 것이 점점 어려워지고 있기 때문에 효과적이지 않을 것이라고 말합니다. 그녀는 “AI 불가” 정책만으로는 AI의 온라인 침투를 막을 수 없다고 경고했습니다. 또 다른 전 OpenAI 직원은 딥페이크 소셜 앱을 출시하는 것이 현실의 악화를 감수하면서도 합리적인 사업 확대라고 평가하며, 이 시장을 지배하는 이가 나올 것임을 이미 예상했다고 언급했습니다. 한편, Meta와 Google은 경쟁하는 AI 영상 도구(Vibes와 Veo 3)를 선보였지만, 소라의 출시로 개인 맞춤형 AI 영상 콘텐츠 확산이 더욱 가속화되었습니다. 신뢰와 안전 분야 전문가들은 Sora를 딥페이크가 희귀한 신기술에서 일상적인 디지털 콘텐츠로 전환되는 역사적 분기점으로 보고 있으며, 이는 결국 소셜 미디어에 대한 무관심 또는 온라인 미디어 신뢰 붕괴로 이어질 수 있다고 경고합니다. 오랫동안 허위 정보 전문가들은 “거짓말쟁이의 배당금”(liar’s dividend)이라는 개념을 경고했으며, 이는 풍부한 딥페이크 덕분에 실제 콘텐츠를 가짜로 무시하는 현상을 의미하지만, 지금 이 현상의 심각성은 그 어느 때보다 높아졌습니다.