أقر المشرعون في كاليفورنيا مشروع قانون مثير للجدل، يعرف باسم مشروع قانون مجلس الشيوخ 1047، والذي يتطلب من الشركات التي تطور أو تعدل أشكالاً قوية من الذكاء الاصطناعي اختبار نماذجها للكشف عن الأضرار المحتملة للمجتمع. ينص مشروع القانون على أن الشركات التي تنفق مبالغ كبيرة على الذكاء الاصطناعي، سواء من خلال التدريب أو التعديلات، يجب أن تقيّم قدرة النموذج على تمكين الهجمات السيبرانية أو الهجمات على البنية التحتية، وكذلك تطوير الأسلحة الضارة. وقد لقي مشروع القانون معارضة من شركات مثل جوجل ومينا، وكذلك خبراء الذكاء الاصطناعي الذين يجادلون بأن تكلفة الامتثال والقلق القانوني قد يعيقون الابتكار وإصدار الأدوات مفتوحة المصدر. من ناحية أخرى، يدعم المبلغون والمدافعون عن تنظيم الذكاء الاصطناعي مشروع القانون، مدعين أن أدوات الذكاء الاصطناعي تشكل مخاطر كبيرة وأن التنظيم الحكومي كان غير كافٍ.

وأوضح مؤلف مشروع القانون، السيناتور وينر، أن الغرض منه هو دعم معايير اختبار السلامة التي تم الاتفاق عليها بالفعل مع الرئيس بايدن والقادة العالميين الآخرين. وعلى الرغم من المخاوف من أن يؤدي مشروع القانون إلى خروج الأعمال من الولاية، فقد رفض وينر هذا الحجة، مشيرًا إلى الحالات السابقة التي لم تتحقق فيها توقعات مماثلة بعد اعتماد لوائح تقنية أخرى. مر مشروع القانون بعدة تعديلات قبل المرور، حيث جادل المؤيدون على حاجة منع الكوارث المحتملة للذكاء الصناعي وحاجة إلى تشريعات أقوى. بالإضافة إلى ذلك، ينظر المجلس التشريعي في كاليفورنيا في قوانين أخرى ذات صلة بالذكاء الاصطناعي، بما في ذلك دفع إجراءات لإزالة التزييف العميق، وتوجيه استخدام الذكاء الاصطناعي في المدارس، والتصدي للتمييز الآلي، واتخاذ تدابير لحماية الناخبين من معلومات مضللة عبر التزييف العميق.