AI ‘환각’ 현상과 일요일 가자 폭발 사건 검증 Thomas Copeland, BBC Verify Live 기자 이 라이브 보도를 마무리하기 전에 오늘의 주요 뉴스를 정리하겠습니다. AI 채팅봇 Grok이 1월 2017년이라 잘못 주장한 보스턴의 트럼프 반대 시위 항공 영상이 X(트위터)상에 올라왔습니다. 우리는 이번 오류의 원인과 온라인상에서 잘못된 정보가 어떻게 퍼졌는지 분석했고, 역이미지 검색이 이를 어떻게 반박했는지도 상세히 설명했습니다. 전문가들은 AI 챗봇이 때때로 ‘환각’하거나 허위 정보를 만들어내는 이유에 대해 설명했습니다. 한편, 이스라엘 군은 일요일 가자에서 하마스에 대한 공습을 실시했다고 보고했으며, 양측 모두 휴전 위반 혐의로 비판이 이어졌습니다. 저희 팀은 가자에서 마스크를 쓴 남성이 폭행당하고 총에 맞는 영상들을 검증했으며, 최근 게시물임에도 불구하고 역이미지 검색 결과 영상은 1년 넘은 것임이 밝혀졌습니다. 또한, 중국 강서성 장친의 화학공장에서 발생한 대형 폭발과 화재 영상도 검증했습니다. 영상에는 강한 불길과 연기가 포착됐으며, 지역 당국은 인광 가스 유출 사고였지만 50분 만에 통제돼 환경 피해는 없었다고 확인했습니다. BBC Verify Live는 계속해서 영상을 검증하고 사건을 추적하며, 내일 다시 찾아뵙겠습니다. 중국 화학공장 폭발 영상 검증 Yi Ma와 Kumar Malhotra, BBC Verify 우리는 강서성 장친의 청싱 화학공장에서 폭발로 인한 대형 화염을 보여주는 영상의 정당성을 인증했습니다. 영상 내 구조물과 주변 숲은 구글 어스 위성 이미지와 일치했으며, 역이미지 검색으로 최근 촬영된 영상임도 확인됐습니다. 지역 관계자는 인광 가스 유출 사고였으며, 빠르게 통제되어 환경 피해가 없었다고 밝혔습니다. BBC Verify 참여하기 Rob Corp, BBC Verify 라이브 편집장 BBC Verify는 주장, 정치적 발언, SNS 영상, 전쟁 지역 사진 뒤에 숨은 진실을 파헤칩니다. 의심스러운 콘텐츠 또는 AI 생성이나 딥페이크 여부를 알고 싶으시면 저희에게 문의해주세요. 조사를 요청하실 수 있습니다. 맥락: 미국 ‘No Kings’ 시위 Thomas Copeland, BBC Verify Live 기자 우리는 AI 채팅봇 Grok이 보스턴 ‘No Kings’ 트럼프 반대 시위 항공 영상을 2017년 것이라 잘못 판정한 사례를 다뤘습니다. 지난 토요일 미국 도시 전역에서 수백만 명이 트럼프 정책에 항의하는 시위를 열었습니다. ‘No Kings’ 연합체는 약 300개 단체로 구성되어 있으며, 6월 트럼프 생일에 대규모 시위로 처음 주목받았고, 보수 정치인들은 비판했고, 주최 측은 전국에서 약 700만 명이 평화롭게 참여했다고 밝혔습니다. 역이미지 검색이란? Thomas Copeland, BBC Verify Live 기자 역이미지 검색은 사진이나 영상 프레임을 검색엔진에 업로드해 온라인상에서 언제, 어디서 최초로 등장했는지 추적하는 검증 방법입니다. 구글 렌즈, 빙, 얀덱스 등 다양한 도구를 활용하며, 각 도구는 지역이나 상황별로 강점이 있습니다. 영상은 여러 프레임을 검토합니다. 하지만 이 방법은 완벽하지 않아, 새로 촬영된 영상은 찾지 못하는 경우도 있으며, 여러 차례 검증을 통해 진위를 판단합니다. 오래된 가자 영상 속 남성 구타 및 총격 영상 Kumar Malhotra, BBC Verify 선임 기자 지난주에는 가자시에서 하마스 공개 처형 영상들을 검증했고, 일요일에는 셔츠를 벗고 손이 결박된 남성이 마스크를 쓴 남성들에게 끌려가고 폭행당하며 총에 맞는 잔인한 영상이 올라왔습니다.

이 영상은 70만 넘는 조회수를 기록했고, 하마스와 연계된 최신 영상으로 알려졌지만, 역이미지 검색으로 2024년 10월 3일자임이 확인됐습니다. 신원은 확인되지 않지만, BBC 아랍어 팀은 영상 속 인물들이 가자 사투리를 구사한다고 전했습니다. 전쟁이나 충돌 상황에서는 오래된 영상이 재등장하는 경우가 많아 타이밍 검증이 중요합니다. AI 챗봇이 허위 정보를 말하는 이유 Thomas Copeland, BBC Verify Live 기자 Grok이 보스턴 시위 영상을 2017년 것이라고 잘못 판정했습니다. Grok의 개발사인 xAI에 이 사실을 문의했으며, 유사 사례로는 런던 시위 후 생긴 오류도 있습니다. UCL의 컴퓨터 과학자 Dr. Peter Bentley는 AI가 제한된 데이터—훈련 데이터와 인터넷 내용—를 활용해 그럴듯한 답변을 제공하려다 보니, 새 영상과 같이 참신한 정보가 나오면 데이터 부족이나 부정확성 때문에 잘못된 ‘환각’을 일으킨다고 설명합니다. 우크라이나 석탄광산 화재, 러시아 드론 공격 후 목격 Fridon Kiria와 Thomas Copeland, BBC Monitoring 및 BBC Verify 텔레그램에서 검증한 영상은 우크라이나 드니프로펫로우스크 자치주의 테르니브카 탄광에서 화재가 난 모습으로, 러시아 드론 공격에 따른 것으로 나타났습니다. 위성 이미지와 영상이 일치했고, 역이미지 검색으로 새 영상임이 확실히 밝혀졌습니다. 우크라이나 에너지기업 DTEK는 공격 사실을 인정했고, 192명의 채광 노동자는 모두 안전하게 대피했으며 부상자는 없었습니다. 이는 두 달 만에 네 번째 적군 공격입니다. 이스라엘 공습과 가자 상황 영상 검증 Benedict Garman, BBC Verify 선임 기자 일시적 휴전 이후, 이스라엘은 하마스의 공격에 대한 보복으로 가자에서 공습을 실시했습니다. 여러 장소에서 발생한 피해와 사상자를 보여주는 영상들을 검증했으며, 아즈-자와이드 해변의 카페, 누세이라트의 운동장, 하마스 동쪽과 알-쉬파 병원 뒤 지역 등입니다. 영상에는 부상한 민간인과 어린이, 연기 기둥도 포착됐으며, 추가 영상 검증이 계속 진행되고 있습니다. Grok의 ‘No Kings’ 시위 영상 허위 주장 Thomas Copeland, BBC Verify Live 기자 Grok은 X에 보스턴 ‘No Kings’ 반트럼 시위 영상이 2017년 것이라고 잘못 주장했습니다. 여러 프레임의 역이미지 검색 결과, 해당 영상은 시위 이후에 온라인에 등장했음을 확인했고, 지역 언론도 유사 영상을 통해 사실임을 뒷받침했습니다. Grok의 오답은 관련 없던 2017년 시위 링크를 인용한 ‘커뮤니티 노트’ 미승인 내용에서 비롯됐으며, 이 주장 스크린샷은 친트럼프 유튜버들에 의해 퍼졌습니다. 이후 BBC Verify의 X 게시물에 반응하여 Grok은 수정 발표를 내기도 했습니다.