Le gouverneur de Californie, Gavin Newsom, a opposé son veto à la loi sur l'innovation sûre et sécurisée pour les modèles d'intelligence artificielle de frontière (SB 1047), qui visait à imposer des réglementations strictes aux entreprises d'IA. Dans son message de veto, Newsom a exprimé des inquiétudes concernant la vaste application de la loi, suggérant qu'elle imposerait un fardeau injuste aux entreprises sans traiter adéquatement les scénarios à haut risque ou les processus de prise de décision critiques. Il a souligné que la loi pourrait créer un faux sentiment de sécurité concernant la technologie de l'IA tout en entravant potentiellement l'innovation. Newsom reconnaît la nécessité de mesures de sécurité et de sanctions pour les fautes, mais insiste pour que tout cadre réglementaire soit basé sur une compréhension empirique des systèmes d'IA et de leurs capacités. Le sénateur Scott Wiener, auteur du projet de loi, a critiqué le veto comme un recul pour la supervision des puissantes corporations affectant la sécurité publique.

Il a souligné qu'en l'absence de contraintes réglementaires, le public est exposé à des risques provenant de technologies en rapide développement. Le SB 1047 visait à établir le cadre réglementaire en matière d'IA le plus strict des États-Unis, exigeant que les grands systèmes d'IA mettent en place des mesures de sécurité et permettant au procureur général d'engager des poursuites en cas de violations de sécurité. Après l'introduction d'amendements, les opposants, y compris les grandes sociétés technologiques et des personnalités publiques, ont exprimé des inquiétudes selon lesquelles la loi pourrait entraver l'innovation. Pendant ce temps, les partisans de divers secteurs, y compris les syndicats et des personnalités notables, ont plaidé pour des réglementations plus strictes. De plus, le gouvernement fédéral explore la réglementation de l'IA, avec une feuille de route proposée par le Sénat abordant diverses questions relatives à l'impact de l'IA sur la société.