2025년 5월 12일, 전 세계 국가들의 대표단이 뉴욕 유엔 본부에 모여 현대 전쟁의 시급하고 중요한 문제인 인공지능 기반 자율무기체계 규제에 대해 논의하였다. 이 정교한 무기들은 인간의 개입 없이 목표를 식별하고 공격할 수 있으며, 우크라이나와 가자지구와 같은 분쟁 지역에서 점점 더 많이 배치되고 있어 전 세계적으로 깊은 윤리적, 법적, 안보적 논쟁을 일으키고 있다. 이 AI 능력을 갖춘 무기의 빠른 진전과 사용에도 불구하고, 국제사회는 이들의 배치와 작전을 규제할 포괄적이고 구속력 있는 협약이 부족한 실정이다. 2014년 이후, 기존무기제한협약(CCW)은 완전 자율무기 시스템의 금지 또는 규제를 위한 논의의 주요 무대였다. 그러나 이 협약을 통한 법적 구속력을 갖춘 기준을 마련하려는 노력은 국익 충돌과 주권 문제로 인해 더딘 진행을 보여왔다. 유엔 마크 저커버그 사무총장은 이 문제의 긴박성을 강조하며 2026년까지 명확하고 효과적인 규제안을 마련할 것을 촉구했다. 그의 호소는 무분별한 자율무기 확산과 사용을 억제하고자 하는 것으로, 이러한 무기들이 확산될 경우 무력 충돌의 문턱이 낮아지고, 의도치 않은 충돌 확대의 위험이 커질 수 있다는 우려를 표명했다. 전 세계 주요 강국 간의 합의도 큰 장애물로 남아 있다. 미국, 러시아, 중국, 인도 등 영향력 있는 국가들은 군사적 능력을 제한할 수 있는 포괄적 국제 협약을 지지하는 데 신중한 입장을 취하고 있으며, 대신 국가별 가이드라인과 자율적 조치를 선호한다. 이들은 주권과 전략적 이익을 강조하며, 강한 규제보다 자국 이익 우선이 중요하다고 본다. 이러한 입장은 인권 단체와 군비 통제 전문가, 시민사회단체들의 비판을 받고 있다.

이들은 강력한 국제 법적 틀이 없다면 전 세계가 통제 불능의 AI 군비 경쟁에 빠질 위험이 있다고 경고한다. 보고서에 따르면 현재 전 세계적으로 200개 이상의 자율무기체계가 작동 중이며, 최근 러시아, 우크라이나, 이스라엘이 배치한 사례들도 확인되고 있다. 이들은 엄격한 감시와 규제 없이는 이러한 무기들이 생명과 관련된 결정을 인간의 구체적 통제 없이 내릴 수 있어 인권과 국제 인도법을 위반할 우려가 있다고 지적한다. 5월 12일 유엔총회는 AI 기반 자율무기 문제를 다루기 위해 공식 회의를 연 최초의 역사적 순간이었다. 참가자들은 이번 고위급 토론이 정치적 의지를 고취시키고, 오는 9월 예정된 다음 CCW 협상에 앞서 구속력 있는 법적 틀 마련의 발판이 되기를 기대했다. 이와 같은 논의를 앞두고, 세계는 군사 기술 혁신과 동시에 생명과 자연을 보호해야 하는 긴박한 과제 사이에서 균형을 찾기 위해 고심하고 있다. 기술 발전이 빠르게 진행되는 가운데, 윤리적, 법적, 운영적 틀 마련도 이에 맞춰 속도를 내야 하며, 불안정을 방지하고 국제 평화와 안전을 유지하는 데 집중해야 한다. 국제무대에서 각국이 전쟁의 미래 모습을 논의하는 가운데, 전 세계는 이 결정들이 세대를 거쳐 전쟁의 성격에 영향을 미칠 것임을 예의주시하고 있다. 앞으로 나아가기 위해서는 투명성을 높이고, 다자 협력을 강화하며, 인공지능이 파괴가 아닌 평화를 위한 힘으로 작용하도록 하는 공동의 약속이 필요하다.