AI 개발자들이 향상된 방어 작전을 위해 미군과 협력하다.

Brief news summary

오픈AI와 안트로픽을 비롯한 주요 AI 기업들은 치명적인 AI 시스템을 개발하지 않으면서도 국방부의 운영을 개선하고자 노력하는 과정에서 미국 군사와의 파트너십에 여러 장애물에 직면하고 있습니다. 드. 라다 플럼, 국방부 수석 디지털 및 AI 담당자는 위협 탐지 및 평가에서 AI의 중요성을 강조합니다. 방위 협력이 확대됨에 따라 메타와 안트로픽과 같은 기업들은 정보 기관들이 자사의 AI 기술에 접근할 수 있도록 정책을 수정하며 인간의 안전을 우선시하고 있습니다. 군의 '킬 체인' 전략은 점점 더 생성적 AI를 통합하고 있으며, 이는 메타와 록히드 마틴, 안트로픽과 팔란티어와 같은 파트너십을 통해 잘 나타납니다. 그러나 AI의 군사적 사용과 관련된 윤리적 딜레마는 여전히 존재합니다. 플럼은 무기 시스템에서 인간의 감독의 중요성을 강조하며, 생사 결정에서 인간의 판단이 결정적인 역할을 한다고 지적합니다. 기술 산업의 군사 참여에 대한 입장은 다양하며, 이는 방어 분야에서 AI 사용에 대한 보다 넓은 윤리적 논의와 일치합니다. 이러한 복잡한 대화는 군사적 틀 내에서 기술 혁신과 윤리적 의무 간의 긴장을 강조합니다.

OpenAI와 Anthropic과 같은 주요 AI 개발자들은 미국 군과 복잡한 관계를 탐색하며, AI의 치명적 용도를 피하면서 펜타곤 작전의 향상을 목표로 하고 있습니다. 현재 AI 도구는 전투를 위해 설계되지 않았지만, 방위부가 위협을 식별하고 추적하며 평가하는 데 도움을 주어 상당한 이점을 제공하고 있다고 펜타곤의 디지털 및 AI 책임자인 Radha Plumb 박사는 말했습니다. Plumb 박사는 AI가 군사 작전의 "킬 체인", 즉 위협을 탐지하고 무력화하는 과정, 특히 계획 및 전략 단계에서 가속화한다고 설명했습니다. 펜타곤과 AI 회사 간의 협력은 상대적으로 최근의 일이며, 2024년에 OpenAI와 Anthropic과 같은 기업들은 방어 맥락에서 그들의 기술을 허용하도록 사용 정책을 수정하며 해로운 용도에 대한 지원을 하지 않겠다고 명확히 규정했습니다. 이러한 변화는 AI 기업과 방위 계약자 간의 파트너십으로 이어졌습니다. 예를 들어, Meta는 로키드 마틴과 협력하고 Anthropic은 팔란티어와 파트너십을 맺었으며, OpenAI는 안두릴과 유사한 계약을 체결했습니다.

여러 군사 시나리오에서 생성적 AI의 효과는 기술 회사들이 군사 응용에 대한 정책을 완화하게 할 수 있습니다. 군사적 의사 결정에서 AI의 윤리에 대한 논의가 커지고 있는 가운데, 특히 자율 무기에 관해서는 Plumb 박사가 펜타곤이 모든 무력 행사 결정에서 인간의 감독을 유지한다고 주장했습니다. "자율적" 시스템에 대한 논의는 논란의 여지가 있으며, Plumb 박사는 완전한 자율성보다는 인간-기계 협력이 필수적이라고 강조했습니다. 군사 파트너십은 기술 분야 내에서 저항을 촉발할 수 있지만, AI 커뮤니티에서는 상대적으로 subdued한 반응을 보였습니다. 일부 연구자들은 방위 환경에서 AI 기술의 책임 있는 사용을 보장하기 위해 군과의 협력이 필요하다고 믿고 있습니다.