Sākot ar 2024. gada 1. janvāri, Kalifornijas gubernatora Gavina Newsoma parakstītais jaunais likums prasa, lai tehnoloģiju uzņēmumi, kas izstrādā plašus, progresīvus AI modeļus, piemēram, Google un OpenAI, palielina caurdzirdamību par sabiedrību ietekmējošiem aspektiem un aizsargā darbiniekus, kas pauž bažas par drošību. Šis likums nodrošina ziņotāju aizsardzību darbiniekiem, kas novērtē kritiskus drošības riskus, un noteikumu, ka lieli AI izstrādātāji publicē savos tīmekļa lokos ietvarus, kuros detalizēti apraksta, kā viņi pārvalda katastrofālus riskus un kā reaģē uz incidentiem. Uzņēmumiem ir jāpaziņo par būtiskiem drošības incidentiem valsts iestādēm 15 dienu laikā, vai 24 stundu laikā, ja ir tuvu nāves vai traumas draudi. Par katru pārkāpumu var piemērot naudas sodu līdz 1 miljonam dolāru. Šis likums, kas ir motos Skota Vīnera Senāta likuma 53 projekta ietvaros, ir ieviests ar mērķi apsvērt katastrofālus riskus, kas definēti kā situācijas, kurās AI izraisa vairāk nekā 50 nāves gadījumus kiberuzbrukumu vai ieroču izmantošanas dēļ, vai rada zaudējumus vai bojājumus, kas pārsniedz 1 miljardu dolāru, īpaši gadījumos, kad operatori zaudē kontroli pār AI rīcību — tas ir galvenokārt hipotētisks jautājums. Likums prasa, lai AI izstrādātāji publicē caurredzamības ziņojumus, kuros detalizēti aprakstīti paredzētie modeļa izmantošanas mērķi, lietošanas ierobežojumi, risku pārvaldības pieejas un trešo personu pārskatīšanas procesi. Stenfordas universitātes pētnieks Rishi Bommasani, kurš bija galvenais ziņojuma veidotājs, kas ietekmēja SB 53, uzskata, ka šis likums ir būtisks solis AI caurredzamības uzlabošanā, norādot, ka tikai 3 no 13 uzņēmumiem, kuri tika pētīti viņu komandā, regulāri ziņo par incidentiem, un caurredzamības rādītāji ir pasliktinājušies. Tomēr viņš uzsver, ka likuma iedarbība ir ļoti atkarīga no ieviestā spēku un resursu piešķiršanas no valsts iestādēm.

Šis likums ietekmējis arī citas valstis; Ņujorkas AI caurredzamības un drošības likums seko Kalifornijas piemēram. Neskatoties uz sasniegumiem, kritiķi norāda uz būtiskiem trūkumiem: likums neattiecas uz riskiem, kas saistīti ar vides ietekmi, dezinformāciju, sistēmiskajām aizspriedumiem, piemēram, seksismu vai rasismu, un nesedz valdības AI sistēmas, kas tiek izmantotas profilaksei vai ietekmes novērtēšanai. Tas attiecas tikai uz uzņēmumiem ar gada ieņēmumiem virs 500 miljoniem dolāru. Caurredzamības prasības ir arī ierobežotas — incidentu ziņojumi, kas tiek iesniegti Kalifornijas ārkārtas notikumu birojam (OES), ir konfidenciāli, pieejami tikai likumdevējiem un gubernatoram, un tiem var tikt pievienotas redakcijas, lai aizsargātu tirdzniecības noslēpumus, tādējādi ierobežojot publisko piekļuvi. Bommasani cer, ka papildu caurredzamību nodrošinās arī 2024. gada 1. janvārī stāsies spēkā likuma projekts AB 2013, kas pieprasa atklāt informāciju par datiem, kas izmantoti AI modeļu apmācībai. Turklāt SB 53 turpmākās normas stāsies spēkā 2027. gadā, kad OES sāks izstrādāt anonimizētus ziņojumus par kritiskiem AI drošības incidentiem, kas saņemti no sabiedrības un AI izstrādātājiem. Lai arī tas varētu skaidrāk parādīt AI potenciālos uzbrukumus vai autonomas rīcības iespējas, tas publiski neidentificēs konkrētus aprīkotos AI modeļus, kas rada riskus.