아마존의 AI 생성 TV 프로그램 요약이 부정확성으로 비판받다

Brief news summary

11월에 아마존은 TV 프로그램에 대한 AI 생성 영상 요약을 선보이며 시청자가 새 시즌 전에 주요 줄거리를 다시 상기할 수 있도록 도왔습니다. 이 기능은 시즌 간 긴 공백을 메우기 위한 목적으로 도입되었으나, Fallout TV 시리즈 요약에서 오류가 발견되면서 비판을 받게 되었습니다. AI는 플래시백의 날짜를 약 120년 잘못 표시했고, 중요한 줄거리 요소를 오해하여 주인공의 동기를 왜곡하는 실수를 범했어요. 아마존은 이 기술을 “획기적”이라며 자랑했지만, 이러한 오류들은 환각이나 신뢰성 문제와 같은 AI의 일반적인 단점을 드러냈습니다. 해당 시스템은 생성형 AI를 활용해 줄거리 분석, 클립 선택, 내레이션이 포함된 요약 제작을 하는데, 충분한 사실 검증이 이루어지지 않은 것으로 보입니다. 논란이 일자, 아마존은 결함이 있는 Fallout 요약과 기타 콘텐츠를 삭제했으며, 다시 도입할 가능성을 완전히 배제하지는 않았어요. 이 사례는 창작 업계에서 AI의 역할에 대한 논의가 계속되는 가운데, 엔터테인먼트 분야에서 생성형 AI의 잠재력과 도전 과제를 모두 보여줍니다.

11월에 아마존은 AI가 생성한 TV 프로그램 요약 비디오를 출시한다고 밝혔습니다. 이론적으로, 이 혁신은 꽤 유용할 수 있습니다. 팬들이 종종 시즌 사이에 수년을 기다리기 때문에, 새로운 시즌을 보기 전에 줄거리 요약은 매우 중요해집니다. 그러나 실제로는, 시청자들은 폭파 TV 시리즈의 첫 시즌 AI 요약 영상에서 여러 오류를 발견했으며, 이는 곧 시즌 2를 준비하고 있는 이 시리즈의 영상입니다. GamesRadar는 요약 영상이 시리즈 내 실제 시간보다 약 120년 더 과거의 플래시백을 잘못 배치했다고 지적하였으며, 또한 시즌 1 종료 시 중요한 줄거리 포인트를 잘못 설명하여 주인공의 주요 동기를 크게 오해하게 만들었다고 밝혔습니다. 이 사건은 분명히 아마존의 AI 기술에 있어 “한 가지 일만 했어야 하는데!”라는 순간이 되었습니다. 아마존이 2월에 해당 기능을 발표했을 때 블로그 포스트는 AI 기반 요약을 “획기적”이라고 설명했으나, 대형 언어 모델에 익숙한 이들은 이러한 모델이 자주 환각과 부정확성을 생성한다는 점을 잘 이해하고 있습니다. Mashable 경량 스트림 더 많은 뛰어난 기술, 우주, 과학 이야기에 관심이 있으시면 Mashable의 주간 Light Speed 뉴스레터에 가입하세요. Sign Me Up를 클릭하면 16세 이상임을 인증하고 이용약관과 개인정보 처리방침에 동의하는 것입니다. 구독해 주셔서 감사합니다! “비디오 요약은 스트리밍에 있어 생성적 AI를 활용한 혁신적인 사례입니다, ”라고 Prime Video의 기술 부사장 Gérard Medioni는 11월 보도자료에서 말했습니다. “이 독특한 기능은 Prime Video의 혁신에 대한 헌신과 고객들의 시청 경험 향상을 보여줍니다. ” 아마존에 따르면, 이 AI 요약은 다음과 같이 만들어집니다: 각 비디오 요약 제작 과정은 여러 단계로 이루어집니다. 생성적 AI를 활용하여, Video Recaps 기능은 시즌의 핵심 줄거리와 등장인물의 활동을 분석하여, 시청자들이 다음 시즌 전에 기억해야 할 가장 중요한 순간들을 파악합니다. 이후, AI는 가장 흥미로운 영상 클립을 선택하고, 음향 효과, 대화 일부, 음악과 결합합니다.

이 요소들은 AI가 생성한 내레이션과 함께 연결되어 극장 수준의 비주얼을 갖춘 요약 영상을 만듭니다. 안타깝게도, 이 과정에는 사실 확인이나 인간의 검토가 포함되지 않는 것으로 보입니다. 게임 기자들이 오류가 많은 AI 내레이션과 쇼 클립이 포함된 요약 영상에 대해 보도하자, 아마존은 폭파 시리즈를 비롯한 몇몇 Prime Video 시리즈에서 이 기능을 제거한 것으로 보입니다. 이 사실은 The Verge에 의해 보도되었습니다. AI 비평가들에게 이 사건은 또 하나의 결함이 있는 AI 도구로 인한 “폭발”에 대해 농담할 수 있는 계기가 되었습니다. 많은 창작자들은 여전히 생성적 AI의 모든 형태에 대해 매우 비판적이며, Mashable도 이에 대해 언급한 바 있습니다. 그럼에도 불구하고, 아마존은 이 기능이 영구적으로 중단되었다는 어떤 신호도 제공하지 않았으며, 다시 도입될 가능성도 있습니다. 결국, 아마존은 전 세계 수백만의 AI 사용자들과 마찬가지로 생성적 AI에 전념하고 있기 때문입니다.