El governador de Califòrnia, Gavin Newsom, va vetar diumenge una controvertida llei de seguretat en intel·ligència artificial després que la indústria tecnològica expressés les seves preocupacions, argumentant que la legislació podria portar les empreses d'IA a sortir de l'estat i frenar la innovació. Newsom va assenyalar que va buscar l'opinió dels principals experts en IA Generativa per ajudar Califòrnia a "desenvolupar baranes viables" amb l'objectiu de crear "una anàlisi de trajectòria basada en l'empirisme i la ciència. " També va dirigir les agències estatals a ampliar les seves avaluacions dels riscos associats a esdeveniments catastròfics potencials relacionats amb la utilització de la IA. La IA Generativa ha generat tant entusiasme com ansietat, ja que pot produir textos, imatges i vídeos en resposta a indicacions obertes. S'han plantejat preocupacions sobre el seu potencial per deixar obsolets alguns llocs de treball, pertorbar eleccions i presentar riscos significatius per a la seguretat humana. L'autor del projecte de llei, el senador estatal demòcrata Scott Wiener, va argumentar que la legislació era essencial per protegir el públic abans que els avanços de la IA es tornin incontrolables o impossibles de gestionar. Com que la indústria de la IA s'està expandint ràpidament a Califòrnia, alguns líders han expressat preocupacions sobre el futur d'aquestes empreses si el projecte de llei fos aprovat. Wiener va afirmar que el veto fa que Califòrnia sigui menys segura, implicant que "les empreses que busquen desenvolupar tecnologia increïblement potent no tenen restriccions que es puguin fer complir. " També va comentar que "els compromisos voluntaris de la indústria sovint manquen de capacitat de ser executables i no solen beneficiar significativament el públic. " "No podem esperar que es produeixi un desastre important abans d'actuar per protegir el públic, " va afirmar Newsom, però va estar en desacord que s'hauria de buscar una solució sense una anàlisi de trajectòria empírica dels sistemes d'IA i les seves capacitats. Mirant al futur, Newsom va mencionar la seva intenció de col·laborar amb la legislatura sobre les regulacions d'IA en la propera sessió. Això ve després dels esforços legislatius encallats en el Congrés per implementar salvaguardes, mentre que l'administració Biden avança amb propostes regulatòries per a la supervisió de la IA. Newsom va declarar que "un enfocament només per a Califòrnia pot ser justificable, especialment en absència d'acció federal per part del Congrés. " La Cambra de Progrés, una coalició que representa la indústria tecnològica, va aplaudir el veto de Newsom, destacant que "l'economia tecnològica de Califòrnia sempre ha prosperat gràcies a la competència i l'obertura. " La legislació proposada hauria requerit proves de seguretat per a molts models avançats d'IA que costin més de 100 milions de dòlars per desenvolupar-se o requereixin recursos computacionals significatius. A més, els desenvolupadors de programari d'IA a l'estat haurien hagut de proporcionar mètodes per desactivar els models d'IA, implementant efectivament un interruptor de seguretat. El projecte de llei tenia com a objectiu establir una entitat estatal per supervisar el desenvolupament de "Models de Frontera" que superin les capacitats dels models existents més avançats. L'oposició al projecte de llei va arribar d'un ampli espectre de grups, incloent gegants tecnològics com Google d'Alphabet, OpenAI recolzat per Microsoft, i Meta Platforms, tots desenvolupant models d'IA generativa.

Alguns demòcrates en el Congrés, incloent la Representant Nancy Pelosi, també van expressar la seva oposició. No obstant això, els defensors incloïen el CEO de Tesla, Elon Musk, que lidera una empresa d'IA anomenada xAI. A més, Anthropic, recolzada per Amazon, va suggerir que els beneficis del projecte de llei probablement superaven els seus costos, tot i que va assenyalar alguns aspectes que encara preocupaven o no estaven clars. Separadament, Newsom va signar una legislació que exigeix una avaluació de les amenaces potencials plantejades per la IA Generativa a la infraestructura crítica de Califòrnia. L'estat està actualment avaluant els riscos associats amb la infraestructura energètica i ja ha implicat proveïdors del sector de l'energia, amb plans per dur a terme avaluacions similars per als proveïdors de la infraestructura d'aigua l'any vinent, seguit pel sector de les comunicacions.