Kalifornský guvernér Gavin Newsom v nedeľu vetoval kontroverzný zákon o bezpečnosti umelej inteligencie po tom, čo technologický priemysel vyjadril obavy, čím argumentoval, že legislatíva by mohla pôsobiť proti AI spoločnostiam v štáte a potláčať inovácie. Newsom uviedol, že sa snažil získať vstupy od popredných odborníkov na Generatívnu AI, aby pomohli Kalifornii "vypracovať uskutočniteľné mantinely" zamerané na vytvorenie "empirického, vedeckého trajektóriového rozboru. " Tiež usmernil štátne agentúry, aby rozšírili svoje hodnotenia rizík spojených s potenciálnymi katastrofickými udalosťami súvisiacimi s využitím AI. Generatívna AI vyvolala nadšenie aj úzkosť, pretože môže produkovať text, obrázky a videá na základe otvorených požiadaviek. Boli vyjadrené obavy o jej potenciál urobiť niektoré pracovné miesta zastaranými, narušiť voľby a predstavovať významné riziká pre ľudskú bezpečnosť. Autor zákona, demokratický štátny senátor Scott Wiener, tvrdil, že legislatíva bola nevyhnutná na ochranu verejnosti pred tým, než AI pokroky budú buď neovládateľné alebo neovládateľné. Keďže AI priemysel sa v Kalifornii rýchlo rozširuje, niektorí lídri vyjadrili obavy o budúcnosť týchto spoločností, ak by bol zákon prijatý. Wiener uviedol, že veto robí Kaliforniu menej bezpečnou, naznačujúc, že "spoločnostiam, ktoré chcú vyvinúť neuveriteľne silnú technológiu, hrozí, že čelia žiadnym vynútiteľným obmedzeniam. " Dodal tiež, že "dobrovoľné záväzky od priemyslu často chýba vynútiteľnosť a neposkytujú verejnosti významné výhody. " "Nemôžeme čakať na veľkú katastrofu, kým sa rozhodneme konať na ochranu verejnosti, " uviedol Newsom, ale nesúhlasil, že riešenie by sa malo sledovať bez empirického trajektóriového rozboru AI systémov a ich schopností. Pozerajúc do budúcnosti, Newsom spomenul svoj úmysel spolupracovať s legislatívou na regulácii AI v ďalšej relácii. Toto prichádza uprostred zablokovaných legislatívnych snáh v Kongrese na implementáciu ochranných opatrení, zatiaľ čo Bidenova administratíva postupuje vpred s regulačnými návrhmi pre dozor AI. Newsom uviedol, že "kalifornský prístup môže byť skutočne oprávnený, najmä v neprítomnosti federálnej akcie od Kongresu. " Komora progresu, koalícia zastupujúca technologický priemysel, uvítala Newsomovo veto, zdôrazňujúc, že "kalifornská technologická ekonomika vždy prosperovala na súťaži a otvorenosti. " Navrhovaná legislatíva by si vyžadovala bezpečnostné testovanie pre mnoho pokročilých AI modelov, ktoré stojí viac ako 100 miliónov dolárov na vývoj alebo vyžadujú značné výpočtové zdroje. Okrem toho by softvérové firmy v štáte museli poskytnúť metódy na deaktiváciu AI modelov, čím by účinne zaviedli kill switch. Zákon mal za cieľ založiť štátnu entitu na dohľad nad vývojom "hraničných modelov", ktoré presahujú schopnosti najpokročilejších existujúcich modelov. Opozícia voči zákonu prišla zo širokého spektra skupín, vrátane technologických gigantov ako Alphabetová Google, Microsoftom podporovaná OpenAI a Meta Platforms, všetci vyvíjajúci generatívne AI modely.

Niektorí demokrati v Kongrese, vrátane zástupkyne Nancy Pelosi, tiež vyjadrili svoju opozíciu. Proponentmi boli však aj CEO Tesla Elon Musk, ktorý vedie AI firmu s názvom xAI. Okrem toho Amazonom podporovaná Anthropic navrhla, že prínosy zákona pravdepodobne prevyšujú jeho náklady, hoci uviedla niektoré aspekty, ktoré boli stále znepokojujúce alebo nejasné. Oddelene, Newsom podpísal legislatívu nariaďujúcu posúdenie potenciálnych hrozieb generatívnej AI pre kritickú infraštruktúru Kalifornie. Štát momentálne hodnotí riziká spojené s energetickou infraštruktúrou a už angažovaný poskytovateľov energetického sektora, s plánmi na vykonanie podobných hodnotení pre poskytovateľov vodnej infraštruktúry v nasledujúcom roku, po ktorom bude nasledovať odvetvie komunikácií.