딥시크와 국가 안보의 인공지능: 편견 해결 및 의사 결정 향상

Brief news summary

중국의 대규모 언어 모델(LLM)인 DeepSeek의 출시는 중국 공산당이 AI를 통해 지정학적 조작을 강화할 수 있는 잠재적인 이용에 대한 경각심을 불러일으켰습니다. CSIS 미래 연구소와 Scale이 실시한 연구는 대국 간 관계 및 위기 관리에서 LLM의 약점을 강조했습니다. 400개의 시나리오와 66,000건 이상의 질의를 분석한 결과, 미국, 영국, 프랑스 등 서구 시각에 뿌리를 둔 모델들은 러시아와 중국 모델과 대비하여 에스컬레이션 쪽으로 상당한 편향을 보였습니다. 이러한 편향은 위기 관리에 도전 과제가 되며, 특히 대만을 둘러싼 미중 간의 갈등과 같은 고긴장 시나리오에서 AI가 생성한 통찰이 도발로 잘못 해석되어 갈등을 격화시킬 수 있습니다. 글로벌 긴장이 고조됨에 따라 편향된 AI의 위험성이 더욱 심각해지고 있습니다. CSIS는 AI에 대한 지속적인 평가 프레임워크를 도입하고 학계, 산업 및 정부 간의 협력을 촉진하여 외교 정책 결정을 보다 잘 지원하는 AI 시스템을 구축할 것을 제안합니다.

딥시크(DeepSeek), 중국의 새로운 대형 언어 모델에 대한 우려는 중국 공산당이 고급 AI를 활용해 전략을 형성함으로써 전통적인 외교 정책을 인간의 판단에서 벗어나게 할 가능성에 집중되고 있습니다. AI 시스템이 미국의 국가 안보에서 점점 더 보편화됨에 따라, ChatGPT Gov와 이전 모델과 같은 사례들은 정부 기관에서의 역할 확대를 강조합니다. 내 팀이 전략국제문제연구소(CSIS)와 AI 데이터 제공업체 Scale과 협력하여 수행한 연구는 대국 간 경쟁과 위기 관리에서 LLM의 분석 능력에 한계가 있음을 밝혀냈습니다. 우리의 벤치마킹 연구에서는 400개의 시나리오에 대해 일반 AI 모델을 테스트하며 알고리즘 편향, 특히 위기 상황에서의 문제를 과장하는 경향을 드러냈습니다. 이러한 매파적 경향은 고위험 협상 중 인간 의사결정자를 알리는 출력을 왜곡할 수 있으며, 국가 안보 작전에서 AI를 완전히 통합하기 전에 미세 조정이 필요합니다. 이는 국가 안보에서 AI 사용을 금지하는 것을 의미하지 않으며, 오히려 전략 분석 능력을 향상시키고 향후 리더가 방대한 데이터를 처리하는 AI와 협력할 수 있도록 맞춤형 교육의 필요성을 강조합니다. 우리 연구팀은 다른 학자들과 AI 기업들과 협력하여 외교 정책 의사 결정에 초점을 맞춘 벤치마크 연구를 개발했습니다. 이는 수십 년에 걸친 정치학 연구의 확립된 데이터 세트를 활용해 편향을 파악하고 모델을 개선하는 과정을 포함했습니다. 결과는 일반적인 편향이 과장된 방향으로 치우쳐질 수 있으며, 이는 대만과 같은 중요한 위기에서 외교적 접근을 위협할 수 있음을 나타냅니다. AI 모델이 공격적인 전략을 채택하는 경향은 시뮬레이션된 국가에 따라 다르며, 종종 미국 및 동맹국의 의사 결정자에 대해 대립적인 태도를 선호합니다. 이를 해결하지 않으면 이러한 모델에 의존하는 것이 협상 과정에서 위험한 입장을 초래할 수 있습니다. 대만 시나리오는 AI 편향이 행동을 오해하게 만들 수 있는 방식을 보여줍니다.

미국의 행동은 적대적으로 해석될 수 있는 반면, 중국의 행동은 우호적으로 해석될 수 있어 계산 오류를 증가시킬 수 있습니다. AI가 인식, 의사 결정 및 커뮤니케이션에 영향을 미침에 따라 내재된 편향이 출력을 왜곡시킬 수 있어 오류를 최소화하기 위해 신중한 검증이 필요합니다. 이 문제의 시급성은 대국 간 경쟁과 복잡한 위기가 심화됨에 따라 더욱 강조되고 있습니다. 리더들은 편향된 AI 도구에 의존할 가능성이 높아지고, 이는 오류의 여지를 크게 좁힐 수 있습니다. 검증되지 않은 군사 시스템이 배치되어서는 안 되는 것처럼, 미검증된 AI 모델이 정책 결정에 영향을 미쳐서는 안 됩니다. 미국은 국가 안보 환경 전반에 걸쳐 AI에 점점 더 의존하게 될 것이므로, 이러한 기술을 피하기보다는 다듬는 데 중점을 둬야 합니다. CSIS는 지속적인 모델 조정을 촉진하기 위해 비판적 외교 정책 벤치마크를 발전시키는 데 전념하고 있습니다. AI를 국가 경영에 효과적으로 통합하기 위해서는 학계, 산업 및 정부를 아우르는 전담 센터를 설립하여 교육, 평가 및 개발을 진행해야 합니다. 이러한 협업 접근 방식은 AI가 국제 관계의 복잡성을 이해하도록 하여 단순한 제로섬 프레임워크를 넘어 세밀한 정책 결정을 촉진하는 데 도움이 될 것입니다.