De gouverneur van Californië, Gavin Newsom, heeft onlangs SB 1047, een wetsvoorstel dat bedoeld was om strenge regelgeving voor de kunstmatige intelligentie (AI) industrie in te stellen, verworpen. Het wetsvoorstel, gesteund door staatswetgevers, was bedoeld om technologiebedrijven verantwoordelijk te houden voor AI-gerelateerde schade en om een 'kill switch' voor AI-systemen te vereisen in geval van misbruik. Newsom erkende de goede bedoelingen van het wetsvoorstel, maar uitte zijn bezorgdheid dat de strenge regelgeving een last zou zijn voor de AI-industrie in Californië. Hij benadrukte dat de wetgeving zich te veel richtte op grote AI-modellen en daarmee de potentiële risico's van kleinere, opkomende technologieën, die ook ontwrichtend kunnen zijn, over het hoofd zag. In zijn veto-boodschap betoogde hij dat het beperken van innovatie voor openbare veiligheid onbedoelde gevolgen zou kunnen hebben. Senator Scott Wiener, een mede-auteur van het wetsvoorstel, bekritiseerde het veto als een tegenslag voor AI-verantwoordelijkheid en wees op het gebrek aan bindende regelgeving voor krachtige AI-technologieën te midden van de voortdurende inactiviteit van het Congres op het gebied van regelgeving voor de technologie-industrie. Hij merkte op dat hoewel er vrijwillige veiligheidstoezeggingen van AI-bedrijven bestaan, ze vaak ineffectief zijn. Giganten uit Silicon Valley, waaronder bedrijven als Andreessen Horowitz en OpenAI, lobbyden tegen de wetgeving, met het argument dat het innovatie zou kunnen belemmeren en talent uit Californië zou kunnen verdrijven.

Daarentegen steunden prominente techfiguren zoals Elon Musk en AI-pioniers Geoffrey Hinton en Yoshua Bengio het wetsvoorstel en waarschuwden voor de ernstige risico's van krachtige AI, zoals potentiële cyberaanvallen en misbruik van biologische wapens. Wiener uitte zijn teleurstelling in zijn social media-post en omschreef het veto als een verlies voor degenen die pleiten voor toezicht op bedrijven die de openbare veiligheid beïnvloeden. Hoewel andere staten zoals Colorado en Utah beperktere AI-regelgeving hebben ingevoerd met betrekking tot vooroordelen in werkgelegenheid en gezondheidszorg, is er nog steeds geen alomvattende federale wetgeving inzake AI-toezicht in Washington. Desalniettemin heeft Newsom andere AI-gerelateerde wetsvoorstellen ondertekend die gericht zijn op het terugdringen van het gebruik van deepfakes bij verkiezingen en het beschermen van de gelijkenis van acteurs tegen ongeoorloofde replicatie door AI. Naarmate de investeringen in AI toenemen, wordt de behoefte aan effectief bestuur en maatregelen voor openbare veiligheid steeds dringender.