주 상원의원 스콧 위너가 발의한 캘리포니아 상원 법안 1047은 대규모 모델을 구축하는 AI 회사들이 안전 테스트를 수행하도록 의무화하는 획기적인 제안입니다. '프런티어 인공지능 모델의 안전하고 안전한 혁신법'으로 알려진 이 법안은 실리콘 밸리의 반대와 혁신 저해 우려로 인해 광범위한 관심을 받고 있습니다. 기타 AI 개발자들과 함께 OpenAI는 AI 규제가 연방 정부에게 맡겨져야 하며 법안이 통과되면 기업들이 캘리포니아를 떠날 수도 있다고 주장합니다. 업계 비판에 대응해 일부 수정이 이루어졌음에도 불구하고 위너는 이 법안이 혁신 촉진과 강력한 기술의 본질적인 위험 해결 사이의 균형을 맞추고 있다고 주장합니다.

제안된 법안은 기업들이 안전 조치를 실시하도록 요구하며, 이를 통해 '전체 중단' 기능을 설정하고, 위험을 해결하기 위한 기술 계획을 수립하며, 제3자 감사에 응해야 합니다. 준수하지 않을 경우 민사 벌금 및 캘리포니아 법무장관에게 보고 의무가 발생할 수 있습니다. 비평가들은 이 법안이 부담스러운 의무를 만든다고 주장하는 반면, 지지자들은 이것이 진보를 저해하지 않고 AI 안전을 촉진한다고 주장합니다. 이 법안은 현재 주 의회에서 표결을 기다리고 있으며, 통과될 경우 최종 승인을 위해 개빈 뉴섬 주지사에게 제출될 예정입니다.