알파벳, 무기 및 감시용 AI 금지 해제: 논란의 여지 있는 변화

Brief news summary

알파벳, 구글의 모회사,은 이러한 기술에 대한 우려가 커짐에 따라 군사 및 감시 분야에서 인공지능(AI)의 사용을 허용하는 정책을 개정했다. 이 회사는 AI 분야에서 국가 안보를 강화하기 위해 민간 부문과 민주 정부 간의 협력을 주장하고 있다. 그러나 전문가들은 특히 자율 무기의 증가와 관련하여 전쟁에서 AI의 결과에 대해 점점 더 우려하고 있다. 최근 블로그 포스트에서 제임스 마니카와 데미스 하사비스는 2018년 AI 원칙의 재평가를 촉구하며 빠른 기술 발전에 더 잘 부합하도록 할 필요성을 강조했다. 그들은 자유와 인권 같은 가치를 보호하기 위해 AI 개발을 형성하는 데 민주적 거버넌스의 중요성을 강조하고, AI가 안전과 경제적 번영을 촉진하도록 보장하기 위해 같은 생각을 가진 조직과의 협력을 촉진하고 있다. 그럼에도 불구하고, 군사적 응용에서 AI의 거버넌스 및 윤리적 의미에 대한 논의는 계속되고 있으며, 자율 시스템이 생사에 관한 중대한 결정을 내리는 것과 관련된 위험에 특히 주목하고 있다.

구글의 모회사인 알파벳이 무기 및 감시 기술을 위한 인공지능(AI) 사용 금지를 해제함으로써 오랜 원칙을 포기했습니다. 알파벳은 AI 사용 지침을 수정하여 "해를 끼칠 가능성이 있는" 애플리케이션을 금지했던 부분을 제거했습니다. 구글은 블로그 게시물에서 이러한 변화를 옹호하며, 기업과 민주 정부가 "국가 안보를 지원하는" AI 이니셔티브에 협력해야 한다고 주장했습니다. 전문가들은 AI가 전장에서 광범위하게 사용될 가능성이 있다고 제안하지만, 특히 자율 무기 시스템 관련하여 그 적용에 대한 우려가 상당합니다. 블로그에 따르면 구글은 민주국가들이 AI 개발을 주도해야 하며, 자유, 평등, 인권 존중과 같은 "핵심 가치"를 준수해야 한다고 강조했습니다. "우리는 이러한 가치를 공유하는 기업, 정부, 조직이 함께 협력하여 개인을 보호하고, 글로벌 번영을 촉진하며, 국가 안보를 강화하는 AI를 개발해야 한다고 믿습니다. "라는 내용이 게시물에 언급되었습니다. 이 블로그는 구글 딥마인드의 수장인 데미스 하사비스와 수석 부사장인 제임스 마니카가 작성하였으며, 2018년에 발표된 원래의 AI 원칙이 기술 발전으로 인해 업데이트가 필요하다는 점을 인정했습니다. 그러나 AI 전문가 및 전문가들 사이에서는 이 강력한 신기술이 어떻게 규제되어야 하는지, 상업적 이해관계가 그 과정에 얼마나 영향을 미쳐야 하는지, 인류에 대한 위험을 완화하기 위한 최선의 전략에 대해 논쟁이 계속되고 있습니다. 군사 작전 및 감시 도구에 대한 AI 적용을 둘러싸고 있는 논란도 있습니다.

가장 큰 우려는 자율적으로 치명적인 행동을 할 수 있는 AI 제어 무기의 가능성에 집중되고 있으며, 옹호자들은 즉각적인 규제가 필요하다고 주장합니다. 인류의 파괴와의 근접성을 상징하는 종말 시계는 글로벌 위험에 대한 최신 평가에서 이러한 우려를 언급했습니다. "군사 타겟팅에 통합된 AI 시스템이 우크라이나와 중동에서 배치되었으며, 여러 국가가 자국 군대에 AI를 통합하려고 노력하고 있습니다. "라고 언급했습니다. "이러한 이니셔티브는 기계가 대규모 사망자를 초래할 수 있는 군사 결정을 내릴 수 있는 정도에 대한 중요한 질문을 제기합니다. "라고 계속해서 밝혔습니다. Stop Killer Robots의 캐서린 코널리는 이러한 우려를 재차 강조하며 "자율 무기 및 AI 타겟팅 시스템에 대한 상당한 재정 투자가 이루어지고 있는 것은 매우 우려스럽다. "고 가디언에 말했습니다.