A partir del 1 de gener, una nova llei signada pel governador de Califòrnia, Gavin Newsom, exigeix que les empreses tecnològiques que creen grans models d’IA avançada, com Google i OpenAI, augmentin la transparència sobre els impactes socials i protegeixin els empleats que plantegen preocupacions de seguretat. La llei atorga proteccions als denunciants per als empleats que avaluïn riscos crítics per a la seguretat i obliga els grans desenvolupadors d’IA a publicar marcs de referència a les seves pàgines web explicant com gestionen els riscos catastròfics i com responen davant incidents. Les empreses han de comunicar els incidents crítics de seguretat a l’estat en un termini de 15 dies, o en 24 hores si hi ha una amenaça imminent de morts o lesions. Les multes poden arribar fins a 1 milió de dòlars per infracció. Originada a partir de la Projecte de llei 53 del Senat per part del Senador Scott Wiener, la llei apunta als riscos catastròfics, que es defineixen com escenaris on la IA causa més de 50 morts a través d’atacs cibernètics o l’ús d’armes, o comporta pèrdues o danys per valor de més d’un miliard de dòlars, especialment en casos on els operadors perden el control sobre les accions de la IA — una preocupació en gran part hipotètica. La llei exigeix als creadors d’IA que emetin informes de transparència que descriguin els usos previstos del model, les restriccions d’ús, els enfocaments per gestionar els riscos i qualsevol revisió per part de tercers d’aquests esforços. Rishi Bommasani de Stanford, un dels principals col·laboradors en un informe que ha influït en la SB 53, considera que la llei és un avanç vital per a la transparència de la IA, assenyalant que només 3 de les 13 empreses estudiades pel seu equip reporten incidències de manera regular, i que els índexs de transparència han disminuït. Tot i això, subratlla que l’impacte de la llei depèn molt de l’aplicació i la assignació de recursos per part de les agències governamentals.

La llei també ha influït en altres estats; la llei de transparència i seguretat per a la IA de Nova York segueix el model de Califòrnia. Malgrat els avenços, els crítics assenyalen importants llacunes: la llei exclou riscos relacionats amb l’impacte ambiental, la desinformació, els biaixos sistèmics com el sexisme o el racisme, i no cobreix els sistemes d’IA governamentals utilitzats per a perfilar o per a avaluacions d’impacte. Només s’aplica a empreses amb ingressos anuals superiors a 500 milions de dòlars. Els requisits de transparència també són limitats — els informes d’incidents enviats a l’Oficina de Serveis d’Emergència de Califòrnia (OES) són confidencials, accessibles només als legisladors i al governador, i poden ser retocats per protegir secrets comercials, restringint l’accés públic. Bommasani espera que més transparència arribi amb la Llei de la Llar de la Assemblea 2013, que entrarà en vigor el 1 de gener de 2024, i que obliga a divulgar informació sobre les dades utilitzades per entrenar els models d’IA. Disposicions addicionals de la SB 53 començaran el 2027, quan l’OES produirà informes anònims sobre incidents crítics de seguretat de la IA rebuts del públic i dels desenvolupadors d’IA. Tot i que això pot clarificar les possibles vulnerabilitats per a atacs o accions autonòmiques de l’IA, no identificaran públicament models d’IA específics que comportin riscos.