메릴랜드주 게이더스버그—오늘 미 상무부 산하 국립표준기술연구소(NIST)는 Anthropic 및 OpenAI와 공동으로 AI 안전 연구, 테스트 및 평가를 진행하기 위한 협력 파트너십을 발표했습니다. 양해각서에 따라 미 인공지능 안전 연구소는 두 회사의 주요 신모델에 조기 접근할 수 있어 AI의 능력 평가와 안전 위험 해결에 관한 공동 연구를 수행할 수 있습니다. 또한, 이번 협약은 영국 인공지능 안전 연구소와 협력하여 Anthropic 및 OpenAI 모델의 잠재적인 안전 개선 방안에 대한 통찰을 공유하는 데에도 도움이 될 것입니다. 엘리자베스 켈리 미 인공지능 안전 연구소장은 이번 협약이 AI 안전 과학 발전과 책임 있는 혁신 촉진에 중요한 이정표가 될 것이라고 말했습니다.

주요 목적은 안전을 중점으로 AI 개발과 관리를 지원하는 것입니다. 이 협력을 통해 수행되는 평가들은 NIST의 기술, 표준, 측정 과학 발전의 풍부한 역사에 기여할 것입니다. 깊이 있는 협력과 탐구 연구를 통해 NIST는 고급 AI 시스템과 관련된 다양한 위험을 해결하려고 합니다. 더욱이 이러한 평가는 바이든-해리스 행정부의 AI에 관한 행정명령과 안전하고 신뢰성 있는 AI의 개발 및 사용을 보장하겠다는 주요 AI 모델 개발자들의 약속과도 일치합니다. 미 인공지능 안전 연구소에 대하여: