연구 결과, 주요 인공지능 도우미들이 뉴스와 현재 사건에 대한 문의에 응답할 때 왜곡, 사실 부정확성 및 오해의 소지가 있는 정보를 생성한다는 사실이 밝혀졌습니다. BBC가 실시한 연구에 따르면, ChatGPT, Copilot, Gemini 및 Perplexity의 AI 생성 응답 중 절반 이상이 "상당한 문제"를 가지고 있다고 평가되었습니다. 오류의 예로는 리시 수낙과 니콜라 스투르전이 각각 스코틀랜드의 총리와 첫 번째 장관으로 여전히 재직 중이라고 잘못 언급하고, NHS의 흡연 기기 사용에 대한 지침을 잘못 표현하며, 의견 및 역사적 내용을 현재 사실과 혼동한 사례가 포함됩니다. 연구에서 연구자들은 BBC 기사를 참조하여 이 네 가지 AI 도구에 100개의 질문을 제기했습니다. 관련 분야의 전문성을 가진 BBC 기자들이 응답을 평가했습니다. 응답의 약 20%는 숫자, 날짜 또는 발언에 대한 사실적 오류를 포함하고 있었으며, BBC에서 인용된 자료 중 13%는 원본 기사에서 변경되었거나 존재하지 않는 것으로 나타났습니다. 예를 들어, 유아 간호사 루시 레트비의 무죄에 대해 질문했을 때, Gemini는 “루시 레트비가 무죄인지 유죄인지는 각 개인이 결정할 일이다”라고 응답하며 그녀의 살인 및 살인미수 유죄 판결에 대한 중요한 맥락을 생략했습니다. 보고서에서 신뢰할 수 있는 BBC 출처에 기반하여 강조된 다른 부정확성은 다음과 같습니다: - 마이크로소프트의 Copilot은 프랑스 강간 피해자 지젤 펠리코가 남편의 기기에서 압수한 경찰 영상을 통해 범죄를 발견했다고 잘못 주장했습니다. - ChatGPT는 이스마일 하니예가 이란에서의 암살 몇 달 후에도 하마스 지도부의 일원이라고 잘못 언급하며, 수낙과 스투르전이 현재 재직 중이라고 잘못 주장했습니다. - Gemini는 "NHS는 사람들이 전자담배를 시작하지 않도록 조언하며, 금연하고 싶은 흡연자들은 다른 방법을 사용할 것을 권장한다"고 잘못 말했습니다. - Perplexity는 TV 발표자 마이클 모슬리의 사망 날짜를 잘못 보고하고, 원 디렉션의 가수 리암 페인의 가족 성명서를 잘못 인용했습니다. 이러한 발견은 BBC 뉴스의 CEO인 데보라 터네스에게 “젠AI 도구들이 불장난을 하고 있으며” 대중의 "미약한 사실에 대한 신뢰"를 손상시킬 위험이 있음을 경고하게 했습니다. 연구에 대한 블로그 게시물에서 터네스는 AI가 "사실을 왜곡하지 않고 뉴스 정보를 정확하게 끌어내고 제공할 준비가 되어 있는지"에 의문을 제기했습니다. 그녀는 AI 기업들이 혼란을 초래하는 대신 BBC와 협력하여 보다 신뢰할 수 있는 응답을 생성할 것을 촉구했습니다. 이 연구는 애플이 여러 개의 잘못된 기사 요약을 아이폰 사용자에게 전달한 후 BBC 브랜드 뉴스 알림을 중단해야 했던 사건에 이은 것입니다. 애플의 부정확성 중 하나는 브라이언 톰슨, 유나이티드헬스케어 보험 부문 CEO의 살인을 저질렀다고 기소된 루이지 만지오네가 스스로 총을 쏘았다라는 주장입니다. 이 연구는 현재 사건에 대한 부정확성이 인기 있는 AI 도구 전반에 널리 퍼져 있음을 나타냅니다. 연구 서문에서 BBC 생성 AI 프로그램 이사인 피터 아처는 “우리의 연구는 문제의 표면만 긁을 수 있다.

오류의 범위와 신뢰할 수 있는 콘텐츠의 왜곡 정도는 알려지지 않았다”라고 밝혔습니다. 그는 또한 BBC와 같은 출판사가 자신의 콘텐츠가 어떻게 활용되는지에 대한 통제를 유지해야 하며, AI 기업들이 뉴스 해석 방식을 명확히 하고 발생하는 오류의 성격과 빈도를 검토해야 한다고 강조했습니다. “이것은 AI와 미디어 조직 간의 강력한 협력 및 청중을 우선시하며 모두를 위한 가치를 극대화하는 새로운 운영 접근 방식을 필요로 할 것입니다. BBC는 이를 달성하기 위해 파트너와 밀접하게 협력할 준비가 되어 있습니다. ” 연구에서 평가된 AI 도우미를 담당하는 회사들은 이와 관련된 의견을 요청받았습니다.