Губернатор Каліфорнії Гевін Ньюсом у неділю наклав вето на спірний законопроєкт про безпеку штучного інтелекту після того, як у технічній індустрії виникли занепокоєння, стверджуючи, що законодавство може змусити компанії, які займаються ШІ, залишити штат і загальмувати інновації. Ньюсом зазначив, що він шукав думки провідних експертів у галузі Генеративного ШІ, щоб допомогти Каліфорнії у "розробці робочих обмежень", спрямованих на створення "емпіричного, науково обґрунтованого аналізу траєкторії". Він також доручив державним агентствам розширити оцінки ризиків, пов'язаних з потенційними катастрофічними подіями, пов'язаними з використанням ШІ. Генеративний ШІ викликає як захоплення, так і тривогу, оскільки він може генерувати текст, зображення та відео у відповідь на відкриті запити. Викликає занепокоєння його потенціал зробити деякі робочі місця застарілими, порушити вибори та створити значні ризики для безпеки людини. Автор законопроєкту, сенатор-демократ штату Скотт Вайнер, стверджував, що законодавство є важливим для захисту громадськості до того, як досягнення в галузі ШІ стануть неконтрольованими. Оскільки галузь ШІ розвивається швидкими темпами в Каліфорнії, деякі лідери висловили занепокоєння щодо майбутнього цих компаній у разі прийняття законопроєкту. Вайнер заявив, що вето робить Каліфорнію менш безпечною, натякаючи, що "компанії, які прагнуть розробити надзвичайно потужні технології, не мають обов'язкових обмежень". Він також зазначив, що "добровільні зобов'язання з боку індустрії часто не є обов'язковими і не приносять значної користі громадськості". "Ми не можемо чекати великої катастрофи, щоб вжити заходів для захисту громадськості", стверджував Ньюсом, але не погодився, що рішення має переслідуватися без емпіричного аналізу траєкторії систем ШІ та їх можливостей. Дивлячись вперед, Ньюсом зазначив свій намір співпрацювати з законодавцем щодо регулювання ШІ на наступній сесії. Це відбувається на фоні застопорених законодавчих ініціатив у Конгресі щодо запровадження засобів безпеки, тоді як адміністрація Байдена просуває свої регуляторні пропозиції щодо нагляду за ШІ. Ньюсом заявив, що "каліфорнійський підхід може дійсно бути виправданим, особливо за відсутності дій з боку федерального Конгресу". Торговельна палата Progress, коаліція, що представляє технологічну індустрію, привітала вето Ньюсома, підкреслюючи, що "технологічна економіка Каліфорнії завжди процвітала завдяки конкуренції та відкритості". Запропоноване законодавство вимагало б проведення тестування безпеки для багатьох передових моделей ШІ, розробку яких коштує понад 100 мільйонів доларів або які вимагають значних обчислювальних ресурсів.

Крім того, розробники програмного забезпечення ШІ в штаті повинні були б забезпечити методи деактивації моделей ШІ, фактично впроваджуючи "вимикач". Законопроєкт мав на меті створити державний орган для нагляду за розробкою "Фронтирних моделей", які перевершують можливості найбільш передових існуючих моделей. Опозиція до законопроєкту походила з широкого спектру груп, включаючи технічних гігантів, таких як Google, підтримуваний Microsoft OpenAI та Meta Platforms, які розробляють генеративні моделі ШІ. Деякі демократи в Конгресі, включаючи представницю Ненсі Пелосі, також висловили свою опозицію. Однак прихильниками стали такі особи, як генеральний директор Tesla Ілон Маск, який очолює фірму ШІ під назвою xAI. Крім того, Anthropic, підтримуваний Amazon, припустив, що вигоди законопроєкту можуть перевищувати його витрати, хоча він зазначив деякі аспекти, які досі викликали занепокоєння або були незрозумілими. Окремо Ньюсом підписав законодавство, що зобов'язує провести оцінку потенційних загроз, які можуть бути викликані генеративним ШІ для критичної інфраструктури Каліфорнії. Держава наразі оцінює ризики, пов'язані з енергетичною інфраструктурою, і вже залучила надавачів послуг у цьому секторі, з планами провести аналогічні оцінки для постачальників водної інфраструктури в наступному році, а потім для сектора комунікацій.