소라 앱을 스크롤하는 것은 이상하고 초현실적인 멀티버스로 들어가는 것 같은 느낌이 듭니다. 여기에는 터무니없고 초현실적인 짧은 영상들이 가득한데, 예를 들어 마이클 잭슨이 스탠드업 공연을 하거나, 프레데터 외계인이 햄버거를 뒤집거나, 무스가 유리문을 박차고 들어오거나, 엘리자베스 2세 여왕이 펍 탁자에서 뛰어내리는 모습 등이 있습니다. ChatGPT를 만든 오픈AI가 출시한 소라는 완전히 AI가 만든 클립들을 생성하며, 시청자를 매료시키지만 동시에 보는 것이 진짜인지 의심하게 만듭니다. 딥페이크 전문가이자 인권 운동가인 샘 그레고리 씨는 소라가 현실과 인공 콘텐츠를 구별하기 거의 불가능하게 만들어 “의심의 안개”를 모든 미디어에 퍼뜨리고 있다고 경고합니다. 이 앱은 AI가 만든 영상만을 선보이지만, 빠르게 바이럴되어 9월 30일 출시 후 일주일도 되지 않아 미국 앱 스토어에서 100만 다운로드를 돌파했고, 현재는 미국 iOS 사용자들만 초대 코드로 이용할 수 있습니다. 영상 제작을 위해 사용자들은 얼굴을 스캔하고 목소리 샘플을 녹음한 후, 맞춤형 텍스트 프롬프트를 입력하여 10초짜리 초현실적 클립들을 만들어 냅니다. “케이모” 기능은 사용자 또는 친구의 얼굴을 기존 영상에 합성하는 것이며, 소라는 영상에 워터마크를 남기지만, 많은 사이트들이 이 워터마크를 제거하고 있습니다. 처음 오픈AI는 저작권자가 동의하지 않으면 기본적으로 저작물을 재생산하는 것을 허용했고, 이로 인해 사용자들은 “스폰지밥, ” “사우스 파크, ” “브레이킹 배드, ” “더 프라이스 이즈 라이트, ” “프렌즈” 등의 캐릭터들이 등장하는 AI 콘텐츠를 생성하기 시작했습니다. 이것은 죽은 유명인사들을 재창조하는 수준으로 발전했는데, 예를 들어 투팍 샤코가 쿠바의 거리를 배회하거나, 히틀러가 마이클 잭슨과 대치하거나, 마틴 루터 킹 주니어가 래퍼 디디의 석방을 요구하는 변형된 연설을 하거나 하는 영상들이 만들어지고 있습니다. 로빈 윌리엄스의 딸인 젤다 윌리엄스는 이러한 영상들을 무례하다고 비판하며, 인간의 삶과 예술적 유산이 온라인 좋아요를 얻기 위해 이용당하는 것에 분노를 표했습니다. 또한 코비 브라이언트, 스티븐 호킹, 케네디 대통령을 묘사한 AI 영상들도 소셜 플랫폼에서 화제가 되었습니다. 프레드 로저스의 가족은 미스터 로저스가 총을 들거나 투팍과 상호작용하는 허위 소라 영상에 대해 실망감을 표하며, 이는 그의 진정한 어린이 중심 가치와 배치된 것이라고 밝혔습니다. 그들은 오픈AI에 공식적으로 목소리와 얼굴 정보를 차단해 달라고 요청했고, 앞으로는 개인 정체성을 존중해 달라는 기대를 갖고 있습니다.

유사하게, 할리우드의 연기자 소속사와 SAG-AFTRA 같은 노조들은 배우들의 얼굴이나 라이선스가 있는 캐릭터를 무단으로 사용하는 것에 대해 비판의 목소리를 높이고 있습니다. 저작권 문제에 대응하기 위해, 오픈AI의 셈 알트먼 최고경영자는 캐릭터의 AI 영상 출연에 대한 권리 보유자가 더 많은 통제권을 갖도록 하거나 수익 분배 방안도 모색할 계획이라고 밝혔습니다. 스튜디오들은 “참가 선언(옵트인)”을 통해 캐릭터 사용을 허용할 수 있는데, 이는 초기의 “옵트아웃” 정책을 뒤집은 조치입니다. 알트먼은 개인화된 콘텐츠의 미래가 더욱 활발하게 발전하는 ‘인터랙티브 팬 픽션’과 같은 창작의 폭발로 이뤄질 것이라고 기대하고 있습니다. 한편, 죽은 배우들의 유족들은 AI 기술 발전에 따라 자신의 모습과 이름을 보호하기 위해 힘쓰고 있으며, CMG Worldwide는 딥페이크 탐지기인 로티 AI와 협력하여 버트 레이놀즈, 로사 파크스 등 20명의 유명인들에 대한 무단 디지털 재창조를 감시하고 있습니다. 로티 AI는 소라 2 출시 이후 가입자가 30배 이상 늘었다고 보고하며, 사용자는 디지털 이미지에 대한 통제권을 되찾기 위해 노력하고 있고, 1월 이후 수천 건의 무단 딥페이크 영상도 삭제되었습니다. 마틴 루터 킹 목사의 왜곡된 영상에 대한 비판 이후, 오픈AI는 유족 요청에 따라 그의 이미지 생성 기능을 일시 정지했고, 공개적 인물에 대한 묘사는 표현의 자유 범위에 속하지만, 유가족의 사용 통제권을 인정해야 한다는 원칙을 수용했습니다. 현재 유족들은 소라의 케이모 기능에서 자신의 모습을 차단 요청할 수 있습니다. 저작권 관련 법적 압력에 따라, 소라는 디즈니 캐릭터와 같은 저작물을 재생산하는 행위에 대해 경고를 발송하며 규정을 강화하고 있습니다. 일부 사용자들은 이러한 제한을 풍자하여 ‘이런 정책 공지’에 관한 밈을 만들어내기도 합니다. 한편, 기괴하고 바이럴 상태인 “AI 슬로프” — 할머니들이 악어를 쫓거나 코믹한 ‘뚱뚱한 올림픽’ 영상 — 은 많은 관심을 끌고 있으며, 일부 크리에이터는 이를 ‘성인용 코코멜론’이라는 이름의 수익 창출로 발전시키고 있습니다. 비평가들은 연예인뿐 아니라 누구든지 맘대로 얼굴을 도용하는 것이 대중을 혼란스럽게 하고, 잘못된 정보를 퍼뜨리며 신뢰를 무너뜨릴 위험이 있다고 경고합니다. 또한, 이러한 기술이 악의적 목적으로 정부와 정치 세력에 의해 조작되는 문제도 우려되고 있습니다. 그레고리 씨는 조작된 시위 영상, 허위 범죄 의혹, 가짜 영상들이 진실성과 책임성을 훼손하는 데 큰 위험이 될 것이라고 우려하며, AI로 만들어진 콘텐츠의 범람 속에서 진실과 책임이 심각하게 훼손될 수 있다고 걱정합니다.