De gouverneur van Californië, Gavin Newsom, heeft Senaatsvoorstel 1047, een belangrijk en controversieel wetsvoorstel gericht op de regulering van kunstmatige intelligentie, verworpen. Het wetsvoorstel zou het testen van AI-modellen hebben verplicht om hun potentieel voor massale sterfgevallen, bedreiging van openbare infrastructuur of grote cyberaanvallen te evalueren. In zijn veto-brief uitte Newsom de bezorgdheid dat de wetgeving innovatie zou kunnen verstikken en onnodige regels zou opleggen aan AI-toepassingen met laag risico, en bekritiseerde hij het wetsvoorstel wegens een gebrek aan voldoende onderzoek. Hij merkte op dat hoewel een Californië-centrische aanpak van AI-regulering noodzakelijk is bij afwezigheid van federale actie, deze gebaseerd moet zijn op empirisch bewijs. Het wetsvoorstel richtte zich op dure AI-modellen die meer dan $ 100 miljoen aan ontwikkeling vereisen, wat Newsom betwistte door te benadrukken dat minder dure technologieën nog steeds aanzienlijke risico's kunnen opleveren. Hij zette zich in voor het zoeken naar een evenwichtig wettelijk en regulerend kader om AI-gerelateerde risico's in de toekomst aan te pakken. Het veto werd ondersteund door grote technologiebedrijven zoals Google, Meta en OpenAI, die betoogden dat het de groei van de AI-industrie zou kunnen schaden, en de Staatshandelskamer prees de beslissing als essentieel voor het behoud van de innovatieve positie van Californië.

Daarentegen beschouwde de sponsor van het wetsvoorstel, senator Scott Wiener, het veto als een gemiste kans om leiding te geven in technologie-regulering en de openbare veiligheid te beschermen, en stelde dat 59% van de Californiërs het wetsvoorstel ondersteunde. Ondanks zijn veto tegen SB 1047 heeft Newsom deze maand verschillende andere AI-gerelateerde wetsvoorstellen ondertekend, waaronder wetsvoorstellen die kiezers beschermen tegen deepfakes en normen stellen voor AI-trainingsrapportages. Met in totaal meer dan 20 aangenomen AI-wetten dit jaar is het gesprek over regulering steeds prominenter geworden binnen de techgemeenschap van Californië en daarbuiten. Hoewel er gemengde meningen zijn over SB 1047 binnen de industrie en sommige zoals startup Anthropic het ondersteunden, heeft het bredere debat dat het ontketende nieuwe stemmen betrokken bij AI-beleidsonderwerpen. Voormalig directeur wetenschap en technologie van het Witte Huis, Alondra Nelson, merkte op dat de testvereiste van het wetsvoorstel in lijn was met het AI Handvest van Rechten van het Witte Huis. Voorstanders zoals Assembleelid Rebecca Bauer-Kahan zijn van plan om volgend jaar vergelijkbare wetgeving opnieuw in te voeren, waarbij ze de voortdurende rol van Californië benadrukken in het effectief besturen van technologie.