연구에 따르면 AI 챗봇이 뉴스 기사를 잘못 전달하고 있다고 BBC 조사가 밝혔습니다.

Brief news summary

BBC의 연구는 OpenAI의 ChatGPT, Microsoft의 Copilot, Google의 Gemini 및 Perplexity AI를 포함한 주요 AI 챗봇이 생성한 뉴스 요약에서 상당한 부정확성을 발견했습니다. 연구 결과, 이러한 요약의 50% 이상에 주목할 만한 오류가 포함되어 있으며, 19%는 잘못된 날짜와 오해를 불러일으키는 통계와 같은 심각한 사실 오류를 포함하고 있는 것으로 나타났습니다. BBC 뉴스의 CEO인 데보라 터네스는 잘못된 정보의 잠재적 위험에 대한 우려를 표명했고, 기술 기업들이 협력하여 효과적인 솔루션을 개발할 것을 촉구했습니다. BBC는 자사의 내용에 대한 AI 접근을 제한한 후 2024년 12월 시험 단계를 시작했습니다. 발견된 부정확성에는 공인과 전자담배 규정에 관한 오해의 소지가 있는 진술이 포함되어 있었습니다. 연구 결과, 이러한 AI 시스템이 종종 의견과 사실을 혼동하고 필수적인 맥락이 부족하다는 사실이 드러났습니다. BBC의 생성 AI 프로그램 이사는 출판사들이 자사의 콘텐츠에 대한 통제를 유지할 필요성을 강조하며, AI 개발자들이 뉴스 처리 및 잘못된 정보 해결에 대한 방법을 더욱 투명하게 공개할 것을 촉구했습니다.

최근 BBC에서 실시한 연구에 따르면 네 개의 저명한 인공지능(AI) 챗봇이 뉴스 기사를 잘못 전달하고 있는 것으로 나타났습니다. 이 연구는 OpenAI의 ChatGPT, Microsoft의 Copilot, Google의 Gemini, Perplexity AI에 초점을 맞추었으며, 이들은 BBC 웹사이트의 콘텐츠를 제공받고 뉴스 관련 질문에 응답하도록 요청받았습니다. 연구 결과에 따르면, 이 챗봇들이 생성한 답변에는 "상당한 부정확성"과 잘못된 정보가 포함되어 있었습니다. BBC 뉴스 및 현재 Affairs의 CEO인 Deborah Turness는 블로그 글에서 AI가 "무한한 기회"를 제공한다고 언급하며 이러한 기술을 개발하는 기업들이 "불장난을 하고 있다"고 경고했습니다. 그녀는 AI가 생성한 헤드라인의 잠재적 위험에 대해 우려를 표명하며, 이러한 왜곡이 심각한 현실 세계의 결과로 이어질 때까지 얼마나 걸릴지 의문을 제기했습니다. 챗봇을 개발한 기술 회사들이 그들의 반응을 요구받았습니다. 이 연구는 ChatGPT, Copilot, Gemini, Perplexity에게 100개의 뉴스 기사를 요약하도록 요청하고 그들의 답변을 평가하는 방식으로 진행되었습니다.

관련 분야의 전문 기자들이 AI 시스템의 응답 품질을 평가했습니다. 결과는 AI가 생성한 답변의 51%가 심각한 문제를 포함하고 있음을 보여주었습니다. 또한 BBC 콘텐츠를 참조한 응답의 19%는 사실 오류를 포함했으며, 이는 잘못된 진술부터 틀린 숫자와 날짜까지 다양했습니다. Turness씨는 블로그에서 이러한 문제를 해결하기 위해 BBC와 AI 기술 제공자 간의 협력적 접근의 필요성을 강조했습니다. 그녀는 기술 기업들이 BBC의 Apple Intelligence에 대한 불만 이후 Apple이 뉴스 요약을 철회한 것과 유사하게 AI生成 뉴스 요약에 대해 "자제할" 것을 촉구했습니다. BBC에서 언급한 몇 가지 구체적인 부정확성은 다음과 같습니다: - Gemini는 NHS가 금연을 위한 전자담배 사용을 권장하지 않는다고 잘못 진술했습니다. - ChatGPT와 Copilot은 Rishi Sunak과 Nicola Sturgeon이 여전히 재임 중이라고 실수로 주장했습니다. - Perplexity는 중동에 대한 BBC 뉴스의 인용을 잘못 배치하고, 이란의 반응을 "자제"라고 부정확하게 묘사하며 이스라엘의 행동을 "공격적"이라고 표기했습니다. 전반적으로, Microsoft의 Copilot과 Google의 Gemini는 OpenAI의 ChatGPT 및 Jeff Bezos의 지원을 받는 Perplexity에 비해 더 심각한 문제를 나타냈습니다. 전통적으로 BBC는 AI 챗봇이 자신의 콘텐츠에 접근하는 것을 제한하지만, 2024년 12월에 진행된 테스트 동안 접근을 허용했습니다. 보고서에 따르면, 사실 부정확성 외에도 챗봇들은 종종 의견과 사실을 구별하는 데 어려움을 겪고, 편집을 하며 중요한 맥락이 자주 결여된 것으로 나타났습니다. BBC의 생성적 AI 프로그램 책임자 Pete Archer는 출판사들이 자신의 콘텐츠 사용 방식을 통제해야 하며, AI 회사들이 뉴스 처리 방식과 발생하는 오류의 규모에 대해 투명성을 보여야 한다고 언급했습니다.