El governador de Califòrnia, Gavin Newsom, va vetar diumenge un projecte de llei pioner que pretenia establir mesures de seguretat per als grans models d'intel·ligència artificial (IA), marcant un retrocés significatiu per als esforços reguladors en el paisatge de l'IA en ràpida evolució. La legislació, S. B. 1047, va enfrontar una forta oposició de startups tecnològiques, grans companyies i alguns legisladors demòcrates. Newsom havia expressat prèviament la necessitat que Califòrnia lideri la regulació de l'IA degut a la inacció del govern federal, però va creure que el projecte de llei proposat podria impactar negativament en la indústria tecnològica de l'estat en imposar requisits excessivament estrictes. Va criticar la legislació per la seva falta de discerniment pel que fa al nivell de risc dels sistemes d'IA i per aplicar estàndards estrictes indiscriminadament, fins i tot a funcions bàsiques. El projecte de llei pretenia exigir a les empreses que provessin els seus models d'IA i divulguessin protocols de seguretat per evitar un mal ús, com ara amenaces a la xarxa elèctrica de l'estat o la producció d'armes químiques. A més, buscava proporcionar proteccions per als denunciants dins de la indústria. El senador Scott Weiner, autor del projecte de llei, va qualificar el veto com un retrocés per a la supervisió de la seguretat pública, argumentant que, mentre les grans empreses d'IA reconeixen els riscos creixents, els compromisos voluntaris no són suficients per a una regulació efectiva.

Va prometre continuar defensant mesures de seguretat en l'IA. La proposta formava part d'un esforç legislatiu més ampli a Califòrnia per regular l'IA i combatre problemes com els deepfakes. Els partidaris van argumentar que el projecte de llei milloraria la transparència i la rendició de comptes en un sector on les implicacions del comportament de l'IA continuen mal enteses. Tot i que cap model actual complia amb els criteris del projecte de llei, els avenços ràpids en la indústria podrien canviar això aviat. Els opositors van argumentar que el projecte de llei podria dificultar la innovació i dissuadir la inversió en el desenvolupament d'IA. L'administració de Newsom ha destacat prèviament el lideratge de Califòrnia en el camp de l'IA i el seu potencial per implementar solucions generatives d'IA per a diversos reptes públics. Després del veto, els legisladors de Califòrnia continuen explorant noves regulacions per abordar la discriminació en les pràctiques de contractació amb l'IA, mentre que altres propostes relacionades amb l'IA no van aconseguir passar recentment.