Od 1. januara, novi zakon koji je potpisao guverner Kalifornije Gavin Newsom zahtijeva od tehnoloških kompanija koje stvaraju velike, napredne modele umjetne inteligencije, poput Googlea i OpenAI, da povećaju transparentnost u vezi sa društvenim utjecajima i zaštite zaposlene koji ukažu na sigurnosne probleme. Zakon pruža zaštitu zviždačima za zaposlene koji procjenjuju kritične sigurnosne rizike i zahtijeva od velikih developera AI-a da na svojim web stranicama objave okvire koji detaljno opisuju kako upravljaju katastrofalnim rizicima i kako odgovaraju na incidente. Kompanije moraju prijaviti kritične sigurnosne incidente državnim vlastima u roku od 15 dana, ili unutar 24 sata ako postoji neposredna prijetnja smrti ili povrede. Kazne mogu dostići do 1 milion dolara po prekršaju. Zakon potiče od Senatskog zakona 53 koju je predložio senator Scott Wiener, a cilj mu je suzbijanje katastrofalnih rizika definiranih kao scenariji u kojima AI izazove više od 50 smrtnih slučajeva putem sajber napada ili upotrebe oružja, ili nastupi šteta ili gubitak od preko 1 milijarde dolara, posebno u slučajevima kada operateri izgube kontrolu nad radom AI-a — što je uglavnom hipotetski problem. Zakon zahtijeva od kreatora AI-a da objave izvještaje o transparentnosti koji opisuju namjenu modela, ograničenja u korištenju, pristupe upravljanju rizicima i bilo kakve procjene trećih strana o ovim naporima. Rishi Bommasani sa Stanforda, ključni doprinositelj izvještaja koji je utjecao na SB 53, smatra da je ovaj zakon važan napredak u transparentnosti AI-a, napominjući da samo tri od 13 kompanija koje je njegov tim proučavao redovno prijavljuju incidente, a ocjene transparentnosti su se pogoršale. Međutim, ističe da će učinkovitost zakona mnogo zavisiti od primjene i alociranja resursa od strane državnih agencija. Zakon je također utjecao na druge države; zakon o transparentnosti i sigurnosti AI u New Yorku slijedi kalifornski model. Unatoč napretku, kritičari ističu značajne praznine: zakon isključuje rizike povezane sa utjecajem na okoliš, dezinformacijama, sistemskim pristranostima poput seksizma i rasizma, te ne pokriva AI sisteme kojima upravlja vlada za profiliranje ili procjene utjecaja.

Primjenjuje se samo na kompanije koje imaju godišnje prihode iznad 500 miliona dolara. Zahtjevi za transparentnošću su također ograničeni — izvještaji o incidentima podneseni Kalifornijskom uredu za hitne slučajeve (OES) su povjerljivi, dostupni su samo zakonodavcima i guverneru, i mogu biti označeni crvenom bojom radi zaštite trgovinskih tajni, čime je smanjen pristup javnosti. Bommasani smatra da će dodatnu transparentnost donijeti Zakon o skupštinskom glasanju 2013, koji će stupiti na snagu 1. januara 2024. godine, a koji zahtijeva odavanje informacija o podacima korištenim za obuku modela umjetne inteligencije. Daljnje odredbe SB 53 počinju 2027. godine, kada će OES izdavati anonimizirane izvještaje o kritičnim sigurnosnim incidentima povezanim s AI-jem koji primaju od javnosti i developera AI-a. Iako će to možda razjasniti potencijal AI-a za napade ili autonomne radnje, javno neće biti identificirani specifični modeli AI-a koji predstavljaju rizike.