캘리포니아의 획기적인 AI 법안이 AI 선구자들 사이에서 갈등을 일으키고 있다. SB 1047 법안은 1억 달러 이상을 들여 AI 모델을 개발하는 개발자들에게 책임을 부과하려 한다. 법안에는 안전성 테스트 요구사항, 안전 장치 구현, 주 검찰 총장이 중대한 피해나 광범위한 손해를 일으키는 AI 모델에 대해 조치를 취할 수 있는 권한이 포함되어 있다. 법안은 또한 제3자 감사를 요구하며, 킬 스위치와 내부 고발자 보호를 제안한다. 법안 공동저자인 주 상원의원 스콧 위너는 반대자들의 공포 조장을 비난하며 법안을 방어했다. 법안은 주 상원을 통과했으며, 주 하원에서 투표를 기다리고 있다.

법안이 최종 투표를 위해 상원으로 돌아갈 예정이다. 개빈 뉴섬 주지사의 입장은 알려지지 않았다. 주목할 만하게도, 일론 머스크와 앤트로픽은 법안에 지지를 표했지만, 오픈AI는 연방 차원의 규제가 필요하다고 생각하며 법안에 반대했다. 구글, 메타, 안드레센 호로위츠 및 다른 주요 인사들은 법안이 혁신과 연구를 위협한다고 생각한다. 위너는 연방 규제를 환영하지만, 의회의 무활동을 인정했다. 법안이 통과되면, SB 1047은 미국 최초의 실제 AI 규제가 될 수 있다.