De gouverneur van Californië, Gavin Newsom, heeft zondag een baanbrekend wetsvoorstel afgewezen dat tot doel had veiligheidsmaatregelen in te voeren voor grote modellen van kunstmatige intelligentie (AI), wat een aanzienlijke tegenslag betekent voor regelgevende inspanningen in het snel evoluerende AI-landschap. De wetgeving, S. B. 1047, werd zwaar bekritiseerd door tech-startups, grote bedrijven en enkele democratische wetgevers. Newsom had eerder aangegeven dat Californië leiding moet geven bij de regulering van AI vanwege de inactiviteit van de federale regering, maar was van mening dat het voorgestelde wetsvoorstel een negatief effect zou kunnen hebben op de technologiesector van de staat door te strenge eisen te stellen. Hij bekritiseerde de wetgeving omdat deze geen onderscheid maakte met betrekking tot het risiconiveau van AI-systemen en strenge normen zonder meer toepaste, zelfs op basisfuncties. Het wetsvoorstel had tot doel bedrijven te verplichten hun AI-modellen te testen en veiligheid protocollen bekend te maken om misbruik te voorkomen, zoals bedreigingen voor het elektriciteitsnet van de staat of de productie van chemische wapens. Bovendien beoogde het klokkenluidersbescherming te bieden voor branchemedewerkers. Senator Scott Weiner, de auteur van het wetsvoorstel, noemde het veto een tegenslag voor het toezicht op de openbare veiligheid en stelde dat hoewel grote AI-bedrijven de toenemende risico's erkennen, vrijwillige toezeggingen niet voldoende zijn voor een effectieve regelgeving.

Hij beloofde te blijven pleiten voor AI-veiligheidsmaatregelen. Het voorstel maakte deel uit van bredere wetgevende inspanningen in Californië om AI te reguleren en problemen zoals deepfakes te bestrijden. Ondersteuners beweerden dat het wetsvoorstel de transparantie en verantwoording in een sector zou verbeteren waar de implicaties van AI-gedrag slecht begrepen blijven. Hoewel momenteel geen enkel model aan de criteria van het wetsvoorstel voldeed, zouden snelle vooruitgangen in de industrie dat binnenkort kunnen veranderen. Tegenstanders voerden aan dat het wetsvoorstel innovatie zou kunnen belemmeren en investeringen in AI-ontwikkeling zou kunnen ontmoedigen. De regering van Newsom heeft eerder de nadruk gelegd op de leiderspositie van Californië op het gebied van AI en het potentieel voor het implementeren van generatieve AI-oplossingen voor verschillende openbare uitdagingen. Na het veto onderzoeken wetgevers in Californië nog steeds nieuwe regelgevingen om AI-discriminatie bij wervingspraktijken aan te pakken, terwijl andere AI-gerelateerde voorstellen onlangs niet zijn aangenomen.