Guvernør i California, Gavin Newsom, nedla søndag veto mot en omstridt lov om kunstig intelligens (KI) sikkerhet etter at teknologiindustrien uttrykte bekymringer, og mente at lovgivningen kunne drive KI-selskaper ut av delstaten og hemme innovasjon. Newsom bemerket at han søkte innspill fra ledende eksperter innen Generativ KI for å hjelpe California med å "utvikle fungerende sikkerhetsgjerder" med mål om å skape "en empirisk, vitenskapsbasert baneanalyse. " Han instruerte også statlige etater til å utvide sine vurderinger av risikoer knyttet til potensielle katastrofale hendelser relatert til KI-bruk. Generativ KI har generert både spenning og bekymring, da den kan produsere tekst, bilder og videoer som svar på åpne spørsmål. Bekymringer har blitt reist om dens potensiale til å gjøre noen jobber utdaterte, forstyrre valg og utgjøre betydelige risikoer for menneskelig sikkerhet. Forfatteren av lovforslaget, den demokratiske delstatssenatoren Scott Wiener, argumenterte for at lovgivningen var essensiell for å beskytte offentligheten før KI-avancer blir enten uhåndterbare eller ukontrollerbare. Siden KI-industrien vokser raskt i California, uttrykte noen ledere bekymringer for fremtiden til disse selskapene hvis lovforslaget ble vedtatt. Wiener uttalte at vetoret gjør California mindre trygt, noe som antyder at "selskaper som ønsker å utvikle utrolig kraftig teknologi ikke møter noen håndhevbare begrensninger. " Han bemerket også at "frivillige forpliktelser fra industrien ofte mangler håndhevbarhet og ikke har en tendens til å gagne offentligheten betydelig. " "Vi kan ikke vente på en større katastrofe før vi handler for å beskytte offentligheten, " hevdet Newsom, men han var uenig i at en løsning burde forfølges uten en empirisk baneanalyse av KI-systemer og deres kapasiteter. Fremover nevnte Newsom sin intensjon om å samarbeide med lovgivningen om KI-reguleringer i neste sesjon. Dette kommer midt i stillstand i lovgivende forsøk i Kongressen på å implementere sikkerhetstiltak, mens Biden-administrasjonen driver frem reguleringsforslag for KI-tilsyn. Newsom uttalte at "en California-only-tilnærming kan faktisk være berettiget, spesielt i mangel på føderal handling fra Kongressen. " The Chamber of Progress, en koalisjon som representerer teknologiindustrien, applauderte Newsoms veto og understreket at "California teknologiske økonomi alltid har blomstret på konkurranse og åpenhet. " Den foreslåtte lovgivningen ville ha krevd sikkerhetstesting for mange avanserte KI-modeller som koster over $100 millioner å utvikle eller krever betydelige databehandlingsressurser. I tillegg ville KI-programvareutviklere i delstaten ha måtte gi metoder for å deaktivere KI-modellene, effektivt implementere en nødstopp. Lovforslaget hadde som mål å etablere en statlig enhet for å føre tilsyn med utviklingen av "Frontier Models" som overgår kapabilitetene til de mest avanserte eksisterende modellene. Motstanden mot lovforslaget kom fra et bredt spekter av grupper, inkludert teknologigiganter som Alphabets Google, Microsoft-baserte OpenAI og Meta Platforms, som alle utvikler generative KI-modeller.

Noen demokratier i Kongressen, inkludert representant Nancy Pelosi, uttrykte også sin motstand. Likevel var tilhengerne inklusive Tesla CEO Elon Musk, som leder et KI-firma kalt xAI. I tillegg antydet Amazon-støttet Anthropic at lovforslagets fordeler sannsynligvis oversteg kostnadene, selv om det noterte noen aspekter som fortsatt var bekymrende eller uklare. Separat signerte Newsom lovgivning som pålegger en vurdering av potensielle trusler fra Generativ KI mot Californias kritiske infrastruktur. Delstaten evaluerer for øyeblikket risikoer knyttet til energiinfrastruktur og har allerede engasjert kraftsektorleverandører, med planer om å gjennomføre lignende vurderinger for vanninfrastrukturleverandører i det kommende året, etterfulgt av kommunikasjonssektoren.