캘리포니아 상원 법안 1047: 대규모 AI 모델의 안전을 의무화

Brief news summary

캘리포니아 상원 법안 1047은 대규모 모델의 안전성을 테스트하도록 AI 회사들을 규제하려 하고 있습니다. 그러나 실리콘 밸리는 이 법안이 혁신과 경쟁력을 저해할 수 있다고 반대하고 있습니다. OpenAI는 연방 정부가 AI 규제 책임을 져야 한다고 주장하며, 이것이 실행될 경우 기업들이 이전할 가능성도 있다고 밝혔습니다. 이 법안의 저자인 주 상원의원 스콧 위너는 강력한 기술에 수반되는 위험을 해결하기 위해 필요하다고 방어합니다. 이 법안은 비용이 1억 달러 이상인 AI 모델을 가진 기업들이 안전 조치를 실시하고 위험 완화 계획을 개발하도록 강제합니다. 준수 여부는 제3자 감사에 의해 평가되며, 위반 시 처벌이 부과됩니다. 비판자들은 이 법안이 부담스러운 의무를 부과한다고 주장하는 반면, 지지자들은 이것을 AI 안전을 위한 중요한 조치로 보고 있습니다. 이 법안은 현재 주 의회에서 고려 중이며, 곧 투표가 예상됩니다.

주 상원의원 스콧 위너가 발의한 캘리포니아 상원 법안 1047은 대규모 모델을 구축하는 AI 회사들이 안전 테스트를 수행하도록 의무화하는 획기적인 제안입니다. '프런티어 인공지능 모델의 안전하고 안전한 혁신법'으로 알려진 이 법안은 실리콘 밸리의 반대와 혁신 저해 우려로 인해 광범위한 관심을 받고 있습니다. 기타 AI 개발자들과 함께 OpenAI는 AI 규제가 연방 정부에게 맡겨져야 하며 법안이 통과되면 기업들이 캘리포니아를 떠날 수도 있다고 주장합니다. 업계 비판에 대응해 일부 수정이 이루어졌음에도 불구하고 위너는 이 법안이 혁신 촉진과 강력한 기술의 본질적인 위험 해결 사이의 균형을 맞추고 있다고 주장합니다.

제안된 법안은 기업들이 안전 조치를 실시하도록 요구하며, 이를 통해 '전체 중단' 기능을 설정하고, 위험을 해결하기 위한 기술 계획을 수립하며, 제3자 감사에 응해야 합니다. 준수하지 않을 경우 민사 벌금 및 캘리포니아 법무장관에게 보고 의무가 발생할 수 있습니다. 비평가들은 이 법안이 부담스러운 의무를 만든다고 주장하는 반면, 지지자들은 이것이 진보를 저해하지 않고 AI 안전을 촉진한다고 주장합니다. 이 법안은 현재 주 의회에서 표결을 기다리고 있으며, 통과될 경우 최종 승인을 위해 개빈 뉴섬 주지사에게 제출될 예정입니다.