캘리포니아 AI 투명성 법안: 2024년부터 대기업을 위한 새 기준

Brief news summary

2024년 1월 1일부터 시행되는 캘리포니아는 업계의 중요한 AI 개발자들—구글과 오픈AI를 포함—이 첨단 모델이 사회에 미치는 영향을 공개하고, 안전 문제를 보고하는 내부 고발자를 보호하도록 하는 혁신적인 법률을 제정하였습니다. 이 법안은 스콧 와이너 상원의원이 작성했으며 가빈 뉴스om 주지사가 서명하였으며, AI 관련 위험 관리를 위한 공공 안전 체계를 의무화하고 위반 시 최대 100만 달러의 벌금을 부과합니다. 기업들은 사망자가 50명 이상이거나 피해 규모가 10억 달러를 넘는 AI 관련 재해사건을 15일 이내에 보고해야 하며, 자율 AI에서 즉각적인 위협이 발생하는 경우 24시간 내에 보고해야 합니다. 또한 이 법은 AI 사용, 제한, 위험 평가에 대한 공개 보고서를 통해 투명성을 높이며, 일부는 독립적인 검토 대상입니다. 시행 과정에서는 비밀 제출과 영업비밀 보호로 인한 집행의 어려움이 예상됩니다. 비평가들은 환경 피해, 허위정보, 편향, 프로파일링 등은 제외되었으며, 소득이 5억 달러 이상인 기업에만 적용된다는 점을 지적합니다. 앞으로는 AI 훈련 데이터 공개 의무도 부과될 예정입니다. 2027년부터는 재난 안전국에서 포괄적인 사건 보고서를 제출하지만, 구체적인 모델명을 공개하지 않아 투명성에 제한이 있습니다. 이 역사적인 법률은 다른 주들도 AI 안전성과 책임성을 강화하는 선례를 만들며, 전국적 확산을 촉진하는 계기를 마련하고 있습니다.

1월 1일부터 발효되는 새 법률은 캘리포니아 주지사 개빈 뉴섬이 서명한 것으로, 구글과 오픈AI와 같은 대형 첨단 AI 모델을 개발하는 기술 기업들이 사회적 영향을 투명하게 공개하고 안전 문제를 제기하는 직원들을 보호하도록 요구합니다. 이 법은 중요한 안전 위험을 평가하는 직원들에게 내부고발자 보호를 제공하며, 대형 AI 개발사들이 자사 웹사이트에 치명적 위험 관리와 사고 대응 방안에 대한 프레임워크를 공개하도록 의무화했습니다. 기업은 치명적 안전 사고가 발생했을 경우 15일 이내에 정부에 보고해야 하며, 생명이나 신체 손상에 즉각적인 위협이 있을 경우 24시간 내에 보고해야 합니다. 위반 시 벌금은 건당 최대 100만 달러에 이를 수 있습니다. 이 법은 상원 법안 53(Senate Bill 53)을 스콧 와이너(Sen. Scott Wiener) 상원 의원이 발의한 것으로, AI로 인해 50명 이상 사망하거나, 사이버 공격 또는 무기 사용으로 인한 사망, 또는 10억 달러 이상의 손실이나 피해를 초래하는 시나리오, 특히 운영자가 AI의 행동을 제어하지 못하는 경우(이른바 가상적인 우려)를 대상으로 합니다. 법은 AI 개발자들에게 모델의 예상 사용 목적, 사용 제한, 위험 관리 방안, 그리고 제3자 검토 내용을 설명하는 투명성 보고서를 공개할 것을 요구합니다. 스탠포드 대학의 리시 봄마사니(Rishi Bommasani)는 SB 53에 영향을 준 보고서의 주요 기여자로서, 이번 법이 AI 투명성에 중요한 진전이라 평가하며, 연구 대상 13개 기업 중 정기적으로 사고를 보고하는 곳은 3곳에 불과하고 투명성 점수도 하락했다고 지적합니다.

그러나 그는 법의 실효성은 정부 기관의 집행력과 자원 배분에 달려 있다고 강조합니다. 이 법은 다른 주에도 영향을 미쳤으며, 뉴욕주의 AI 투명성과 안전법이 캘리포니아의 모델을 따른다. 그럼에도 불구하고, 비평가들은 여러 중요한 사각지점을 지적합니다. 환경 영향, 허위 정보, 성차별이나 인종차별과 같은 체계적 편향, 그리고 프로파일링이나 영향 평가를 위해 정부 AI 시스템이 사용하는 경우는 법 적용 대상에 포함되지 않으며, 연간 매출액이 5억 달러 이상인 기업에 한정되어 있습니다. 투명성 요구 사항도 제한적이어서, 캘리포니아 재난관리국(OES)에 제출된 사고 보고서는 기밀로 유지되어 법률의 입법자와 주지사만 열람할 수 있으며, 영업 비밀 보호를 위해 일부 내용을 삭제할 수도 있어 일반 공개는 어렵습니다. 봄마사니는 2024년 1월 1일부터 시행되는 조례안 2013(Assembly Bill 2013)이 AI 모델 학습에 사용된 데이터 공개를 요구함으로써 추가적인 투명성을 기대하고 있습니다. 또한 SB 53의 다른 조항들은 2027년부터 시행되며, OES는 공공과 AI 개발자로부터 접수된 중요한 AI 안전 사고 사건에 대한 익명 보고서를 작성할 예정입니다. 이는 AI 공격 가능성이나 자율 행동에 대한 이해를 높일 수 있으나, 위험이 되는 특정 AI 모델을 공개적으로 밝히지는 않을 것입니다.