Începând cu 1 ianuarie, o lege nouă semnată de guvernatorul Californiei, Gavin Newsom, impune companiilor tech care creează modele avansate de inteligență artificială, precum Google și OpenAI, să sporească transparența privind impactul social și să protejeze angajații care ridică preocupări legate de siguranță. Legea oferă protecție celor care sesizează riscuri critice de siguranță și obligă marii dezvoltatori de AI să publice pe site-urile lor cadre care detaliază modul în care gestionează riscurile catastrofale și răspund incidentelor. Companiile trebuie să raporteze incidentele de siguranță critică statului în maximum 15 zile, sau în 24 de ore dacă există o amenințare iminentă de deces sau rană. Penalitățile pot ajunge până la 1 milion de dolari pentru fiecare încălcare. Legea provine din Proiectul de Lege al Senatului 53, inițiat de senatorul Scott Wiener, și vizează riscurile catastrofale considerate scenarii în care AI cauzează peste 50 de decese prin atacuri cibernetice sau utilizarea armamentului, sau care generează pierderi sau daune de peste un miliard de dolari, mai ales în cazurile în care operatorii pierd controlul asupra acțiunilor AI—o preocupare în mare parte ipotetică. Legea impune creatorilor de AI să emită rapoarte de transparență care descriu utilizările intenționate ale modelelor, restricțiile de utilizare, abordările de gestionare a riscurilor și orice revizuire din partea terților a acestor eforturi. Rishi Bommasani de la Stanford, un contributor cheie la un raport care a influențat SB 53, consideră că legea reprezintă un progres vital pentru transparența AI, menționând că doar 3 din cele 13 companii studiate de echipa sa raportează regulat incidentele, iar scorurile de transparență au scăzut. Totuși, el subliniază că impactul legii depinde foarte mult de aplicare și de alocarea resurselor de către agențiile guvernamentale.

Legea a influențat și alte state; legea privind transparența și siguranța în AI din New York urmează modelul Californiei. În ciuda progreselor, criticii sesizează lacune semnificative: legea exclude riscurile legate de impactul asupra mediului, dezinformare, prejudicii sistemice precum sexismul sau rasismul, și nu acoperă sistemele de AI folosite de guvern pentru profilare sau evaluări de impact. Se aplică numai companiilor cu venituri anuale de peste 500 de milioane de dolari. Cerințele de transparență sunt de asemenea limitate—rapoartele despre incidente trimise Biroului pentru Servicii de Urgență din California (OES) sunt confidențiale, accesibile doar legislatorilor și guvernatorului, și pot fi redacționate pentru a proteja secrete comerciale, ceea ce limitează accesul public. Bommasani speră că mai multă transparență va aduce Proiectul de Lege al Adunării 2013, care devine efectiv din 1 ianuarie 2024 și care solicită dezvăluirea datelor utilizate pentru antrenarea modelelor de AI. Alte prevederi ale SB 53 vor intra în vigoare în 2027, când OES va produce rapoarte anonimizate despre incidente critice de siguranță în AI primite de la public și dezvoltatori. Deși acestea ar putea clarifica potențialul AI pentru atacuri sau acțiuni autonome, nu vor identifica public modelele specifice de AI care prezintă riscuri.