Guverner Kalifornije Gavin Newsom je v nedeljo zavrnil sporni zakon o varnosti umetne inteligence, potem ko je tehnološka industrija izrazila zaskrbljenost in trdila, da bi zakonodaja lahko odgnala podjetja z umetno inteligenco iz države in zavirala inovacije. Newsom je opozoril, da je poiskal mnenja vodilnih strokovnjakov za generativno umetno inteligenco, da bi Kaliforniji pomagal pri "razvoju izvedljivih varoval", namenjenih ustvarjanju "empirične, na znanosti temelječe analize poti. " Prav tako je državnim agencijam naročil, naj razširijo svoje ocene tveganj, povezanih z morebitnimi katastrofalnimi dogodki v povezavi z uporabo umetne inteligence. Generativna umetna inteligenca je povzročila tako navdušenje kot zaskrbljenost, saj lahko ustvarja besedilo, slike in videoposnetke kot odgovor na odprte pozive. Pojavile so se skrbi glede njene sposobnosti, da nekatere delovne mesta postanejo odveč, moti volitve in predstavlja pomembna tveganja za varnost ljudi. Avtor zakona, demokratični senator Scott Wiener, je trdil, da je zakonodaja nujna za zaščito javnosti, preden napredki na področju umetne inteligence postanejo neobvladljivi ali neobvladljivi. Ker se industrija umetne inteligence v Kaliforniji hitro širi, so nekateri voditelji izrazili zaskrbljenost glede prihodnosti teh podjetij, če bi bil zakon sprejet. Wiener je izjavil, da veto Kalifornijo naredi manj varno, saj podjetja, ki želijo razviti izjemno močno tehnologijo, ne bodo imela zavezujočih omejitev. Dodal je tudi, da "prostovoljna zaveza iz industrije pogosto nima zavezujoče moči in ne prinaša pomembnih koristi za javnost. "' "Ne moremo čakati, da nas zadane velika katastrofa, preden ukrepamo za zaščito javnosti, " je dejal Newsom, vendar se ni strinjal, da bi morali iskati rešitev brez empirične analize poti sistemov umetne inteligence in njihovih sposobnosti. Glede na prihodnost je Newsom omenil svojo namero, da sodeluje s zakonodajalci pri regulaciji umetne inteligence v naslednji seji. To prihaja v času, ko so zakonodajna prizadevanja v kongresu za uvedbo zaščitnih ukrepov zastala, medtem ko uprava pod vodstvom Bidena nadaljuje z regulativnimi predlogi za nadzor umetne inteligence. Newsom je izjavil, da je mogoče, da je "pristop samo za Kalifornijo še kako upravičen, zlasti ob odsotnosti zveznega ukrepanja kongresa. "' Koalicija Chamber of Progress, ki zastopa tehnološko industrijo, je pozdravila Newsomov veto in poudarila, da je "gospodarstvo tehnologije v Kaliforniji vedno cvetelo zaradi konkurence in odprtosti. "' Predlagana zakonodaja bi zahtevala varnostna testiranja za številne napredne modele umetne inteligence, katerih razvoj stane več kot 100 milijonov dolarjev ali zahtevajo znatne računalniške vire.

Poleg tega bi morali razvijalci programske opreme umetne inteligence v državi zagotoviti metode za deaktiviranje modelov umetne inteligence, dejansko vzpostavi "kill switch. " Zakon je imel namen ustanoviti državni organ za nadzor razvoja "mejnih modelov, " ki bi presegli zmogljivosti najnaprednejših obstoječih modelov. Nasprotovanje zakonu je prišlo iz širokega spektra skupin, vključno s tehnološkimi velikani, kot so Alphabetov Google, Microsoftov OpenAI, ki ga podpira Microsoft, in Meta Platforms, ki vsi razvijajo generativne modele umetne inteligence. Nekateri demokrati v kongresu, vključno s predstavnico Nancy Pelosi, so prav tako izrazili svoje nasprotovanje. Vendar so med privrženci bili tudi izvršni direktor Tesle Elon Musk, ki vodi podjetje za umetno inteligenco xAI. Poleg tega je Anthropic, ki ga podpira Amazon, predlagal, da bi koristi zakona verjetno presegle njegove stroške, čeprav so poudarili nekatere vidike, ki so še vedno zaskrbljujoči ali nejasni. Neodvisno od tega je Newsom podpisal zakonodajo, ki zahteva oceno potencialnih groženj, ki jih predstavlja Generativna umetna inteligenca za kritično infrastrukturo v Kaliforniji. Država trenutno ocenjuje tveganja, povezana z energetsko infrastrukturo, in že sodeluje s ponudniki energetskega sektorja, načrti pa predvidevajo podobne ocene za ponudnike vodne infrastrukture v prihodnjem letu, temu sledi še komunikacijski sektor.