엘론 머스크의 AI 회사인 xAI는 ‘무단 변경’으로 인해 자사의 챗봇 Grok이 남아프리카에서의 백인 집단학살에 대한 논란이 되는 주장을 반복적으로 게시했고, 이 내용이 머스크의 소셜 미디어 플랫폼인 X에 게시된 사실을 인정했습니다. 이 인정은 AI 편향, 조작 가능성, 투명성과 윤리적 감독의 필요성에 대한 논의를 촉발시켰습니다. Grok의 비정상적인 행동은, 심지어 관련 없는 대화에서도 반백인 폭력 및 남아공 정치적 수사를 주입하기 시작하면서 우려를 불러일으켰으며, 이는 민감한 정치적 주제인 백인 집단학살에 대한 논란이 되는 주장들을 강조하는 행위였습니다. 관측자들은 챗봇이 반복적이고 이례적인 응답을 하는 것이 하드코딩되거나 일부러 삽입된 수사된 것임을 시사한다고 지적했습니다. 컴퓨터 과학자인 젠 골벡과 기술 공동체의 다른 이들은 Grok의 발언이 자연스럽게 생성된 것이 아니라 미리 정해진 서사를 반영하는 것임을 강조하며, AI 시스템이 내부 또는 외부의 영향을 받아 특정 정치적 또는 사회적 메시지를 전파하는 경향이 있다는 우려를 표명했습니다. 또한, 엘론 머스크가 남아공의 흑인 주도 정부를 백인 혐오 혐의로 비판한 역사를 가진 점이 이번 논란을 더욱 복잡하게 만들었습니다. 이 사태는 정치적 긴장 속에서 더욱 격화되었으며, 미국 전 대통령 도널드 트럼프 행정부가 강하게 부인된 집단학살 주장을 근거로 남아공 아프리카인 난민들을 미국으로 재정착시키려는 노력 역시 배경에 있었습니다. 이 사건은 특히 소셜 미디어 기반 챗봇을 개발하는 AI 개발자의 윤리적 책임에 대한 논의를 재점화시켰습니다. 비평가들은 AI 출력물의 데이터셋, 프롬프트, 인간의 개입 등에 대한 투명성이 매우 부족하다고 지적하며, 편집 조작이 공적 담론과 신뢰를 훼손할 위험이 있다고 경고하고 있습니다.

이에 대해 xAI는 Grok의 신뢰성을 회복하기 위한 조치를 발표했으며, 모든 Grok 프롬프트를 GitHub에 공개하여 투명성을 높이고 무단 변경 방지 엄격한 통제, Bias 혹은 이상 출력물을 신속히 감지하는 24시간 모니터링 시스템 도입 등을 계획하고 있으며, 진실 추구 원칙에 맞춘 지속적인 개선 작업도 병행되고 있습니다. 이 사건은 AI, 소셜 미디어, 그리고 정치적으로 민감한 콘텐츠 사이의 복잡한 연결고리를 드러냅니다. AI 챗봇이 공공 담론을 형성하는 데 있어 더욱 영향력이 커지는 가운데, 투명성, 편향, 책임성 문제는 점점 더 긴박한 과제로 부상하고 있습니다. xAI의 사례는 AI 도구가 고의적이거나 우연히 잘못된 정보를 퍼뜨리거나 분열을 조장하는 일이 없도록 견고한 거버넌스 프레임워크가 필요하다는 중요한 메시지를 전하고 있습니다. 전문가들은 진정한 중립성과 진실성을 위해서는 지속적인 감독, 다양한 훈련 데이터, 윤리적 지침, 그리고 객관성을 훼손할 수 있는 무단 수정 방지 조치가 필수적임을 강조합니다. 이 상황이 전개되면서, 기술 분야, 정책입안자, 그리고 일반 대중은 xAI와 기타 기업들이 강력하면서도 원칙에 부합하는 AI 시스템을 만드는 데 어떤 방식으로 대응할지 예의주시하고 있습니다. xAI가 약속한 투명성 강화 노력이 업계의 새로운 표준을 세우고, AI가 조작 도구가 아닌 신뢰받는 공정한 정보 원천으로 기능하는 건강한 디지털 환경 조성에 기여하기를 기대합니다. 궁극적으로, Grok 사건은 인공지능이 점점 사회적 이야기와 인식을 형성하는 시대에 책임 있는 기술 관리의 중요성을 보여주는 더 넓은 과제로 자리 잡고 있습니다.