فرماندار کالیفرنیا، گوین نیوسام، روز یکشنبه قانون بحث‌برانگیز ایمنی هوش مصنوعی را پس از نگرانی‌های صنعت فناوری وتو کرد و ادعا کرد که این قوانین می‌توانند شرکت‌های هوش مصنوعی را از ایالت بیرون کرده و نوآوری را متوقف کنند. نیوسام اشاره کرد که نظر کارشناسان برجسته در حوزه هوش مصنوعی تولیدی را برای کمک به کالیفرنیا در 'توسعه چارچوب‌های عملی' که هدف ایجاد یک 'تحلیل مسیر تجربی و مبتنی بر علم' دارد، مورد مشورت قرار داده است. او همچنین به آژانس‌های دولتی دستور داد تا ارزیابی‌های خود از خطرات مرتبط با رویدادهای فاجعه‌بار ممکن ناشی از استفاده از هوش مصنوعی را گسترش دهند. هوش مصنوعی تولیدی هم هیجان و هم نگرانی ایجاد کرده است، زیرا می‌تواند متن، تصاویر و ویدیوها را در پاسخ به دستورات باز تولید کند. نگرانی‌هایی درباره پتانسیل آن برای از بین بردن برخی شغل‌ها، اختلال در انتخابات و تهدیدات جدی برای ایمنی انسانی مطرح شده است. نویسنده این لایحه، سناتور دموکرات اسکات وینر، استدلال کرد که قوانین برای محافظت از عموم مردم قبل از این که پیشرفت‌های هوش مصنوعی غیر قابل مدیریت یا غیر قابل کنترل شوند، ضروری است. از آنجا که صنعت هوش مصنوعی به سرعت در کالیفرنیا گسترش می‌یابد، برخی رهبران نگرانی‌هایی درباره آینده این شرکت‌ها در صورت اجرای این قانون مطرح کرده‌اند. وینر اظهار داشت که وتو کردن این قانون، کالیفرنیا را ناامن‌تر می‌کند و ادعا کرد که 'شرکت‌هایی که به دنبال توسعه فناوری بسیار قدرتمند هستند، با محدودیت‌های اجرایی مواجه نیستند. ' او همچنین اظهار داشت 'تعهدات داوطلبانه از سوی صنعت اغلب قابلیت اجرایی ندارند و تمایلی به منفعت رساندن به عموم ندارند. ' نیوسام اظهار داشت: 'ما نمی‌توانیم منتظر وقوع یک فاجعه بزرگ باشیم تا قبل از اقدام برای محافظت از عموم مردم عمل کنیم،' اما او مخالفت کرد که یک راه‌حل باید بدون تحلیل مسیر تجربی سیستم‌ها و قابلیت‌های هوش مصنوعی پیگیری شود. به نگاه آینده، نیوسام اشاره کرد که قصد دارد با مجلس قانون‌گذاری در مورد مقررات هوش مصنوعی در جلسه بعدی همکاری کند. این مسئله در حالی به وجود آمد که تلاش‌های قانونی در کنگره برای اجرای محافظت‌ها متوقف شده و دولت بایدن پیشنهادهای قانونی برای نظارت بر هوش مصنوعی را پیش برده است. نیوسام اظهار داشت که 'یک رویکرد فقط برای کالیفرنیا ممکن است توجیه شود، به ویژه در فقدان اقدام فدرال از سوی کنگره. ' اتاق پیشرفت، یک ائتلاف نماینده صنعت فناوری، از وتو نیوسام استقبال کرد و تأکید کرد که 'اقتصاد فناوری کالیفرنیا همیشه از رقابت و باز بودن رونق گرفته است. ' قانون پیشنهادی خواستار آزمایش ایمنی برای بسیاری از مدل‌های پیشرفته هوش مصنوعی که بیش از ۱۰۰ میلیون دلار برای توسعه آن هزینه شده یا نیاز به منابع محاسباتی قابل توجه داشتند، بود.

علاوه بر این، توسعه‌دهندگان نرم‌افزار هوش مصنوعی ملزم به ارائه روش‌هایی برای غیرفعال کردن مدل‌های هوش مصنوعی بودند که به‌طور مؤثر یک کلید خاموش‌کننده اجرا می‌کردند. این قانون هدف داشت تا یک نهاد ایالتی را برای نظارت بر توسعه 'مدل‌های پیشرو' که از قابلیت‌های پیشرفته‌ترین مدل‌های موجود پیشی می‌گیرند، ایجاد کند. مخالفت با این لایحه از سوی گستره‌ای از گروه‌ها، از جمله غول‌های فناوری مانند گوگل، که تحت مالکیت آلفابت است، اوپن‌ای‌آی حمایت شده توسط مایکروسافت و متا پلتفرمز که همه مدل‌های هوش مصنوعی تولید می‌کنند، وجود داشت. برخی دموکرات‌های کنگره، از جمله نماینده نانسی پلوسی، نیز مخالفت خود را بیان کردند. با این حال، حامیان این لایحه شامل مدیر عامل تسلا، ایلان ماسک، که یک شرکت هوش مصنوعی به نام xAI را رهبری می‌کند، بودند. به علاوه، Anthropocik که توسط آمازون حمایت می‌شود، پیشنهاد کرد که مزایای این قانون احتمالاً بیش از هزینه‌های آن است، هرچند به برخی جنبه‌هایی که هنوز نگران‌کننده یا مبهم بودند اشاره‌ای کرد. به‌طور جداگانه، نیوسام قانونی را امضا کرده که خواستار ارزیابی تهدیدات احتمالی ناشی از هوش مصنوعی تولیدی بر زیرساخت‌های حیاتی کالیفرنیاست. ایالت در حال حاضر در حال ارزیابی خطرات مرتبط با زیرساخت‌های انرژی است و تاکنون با ارائه‌دهندگان بخش نیرو تعامل داشته و برنامه‌هایی برای انجام ارزیابی‌های مشابه برای ارائه‌دهندگان زیرساخت‌های آب در سال آینده دارد و به دنبال آن بخش ارتباطات نیز ارزیابی خواهد شد.