Ab dem 1. Januar schreibt ein neues Gesetz, das Gouverneur Gavin Newsom von Kalifornien unterzeichnet hat, vor, dass Technologieunternehmen, die große, fortschrittliche KI-Modelle entwickeln, wie Google und OpenAI, Transparenz hinsichtlich gesellschaftlicher Auswirkungen erhöhen und Mitarbeitende schützen, die Sicherheitsbedenken äußern. Das Gesetz bietet Whistleblower-Schutz für Mitarbeitende, die kritische Sicherheitsrisiken bewerten, und verpflichtet große KI-Entwickler, auf ihren Webseiten Rahmenwerke zu veröffentlichen, in denen erläutert wird, wie sie katastrophale Risiken managen und auf Vorfälle reagieren. Unternehmen müssen schwere Sicherheitsvorfälle innerhalb von 15 Tagen an den Staat melden, oder innerhalb von 24 Stunden, wenn eine unmittelbare Gefahr von Tod oder Verletzung besteht. Bei Verstößen können Geldstrafen von bis zu einer Million Dollar verhängt werden. Das Gesetz, das aus dem Senatsgesetz 53 von Senator Scott Wiener stammt, zielt auf katastrophale Risiken ab, welche Szenarien umfassen, in denen KI durch Cyberangriffe oder Waffenutzung mehr als 50 Todesfälle verursacht oder Mehrkosten oder Schäden von über einer Milliarde Dollar anrichtet, insbesondere wenn Betreiber die Kontrolle über die KI-Aktionen verlieren – eine größtenteils hypothetische Sorge. Das Gesetz verlangt von KI-Entwicklern, Transparenzberichte zu erstellen, die geplante Nutzung des Modells, Nutzungsbeschränkungen, Risikomanagementansätze sowie etwaige Überprüfungen durch Dritte beschreiben. Rishi Bommasani von Stanford, ein wesentlicher Mitwirkender bei einem Bericht, der SB 53 beeinflusst hat, sieht das Gesetz als einen wichtigen Fortschritt für mehr KI-Transparenz. Er stellt fest, dass nur 3 von 13 untersuchten Unternehmen regelmäßig Vorfälle melden und die Transparenzwerte insgesamt gesunken sind.

Er betont jedoch, dass die Wirkung des Gesetzes stark von der Durchsetzung und Ressourcen der Regierung abhängt. Das Gesetz hat auch andere Bundesstaaten beeinflusst; New Yorks Gesetz zur KI-Transparenz und Sicherheit folgt dem Modell Kaliforniens. Trotz Fortschritten weisen Kritiker auf erhebliche Lücken hin: Das Gesetz schließt Risiken im Zusammenhang mit Umwelteinflüssen, Desinformation, systemischen Vorurteilen wie Sexismus oder Rassismus aus und deckt keine Regierungs-KI-Systeme ab, die für Profiling oder Impact-Assessment genutzt werden. Es gilt nur für Unternehmen mit einem Jahresumsatz von über 500 Millionen Dollar. Auch die Transparenzanforderungen sind begrenzt – die Berichtspflichten zu Vorfällen, die beim Office of Emergency Services (OES) Kaliforniens eingereicht werden, sind vertraulich, nur für Gesetzgeber und den Gouverneur zugänglich und können redigiert werden, um Geschäftsgeheimnisse zu schützen, was den öffentlichen Zugang einschränkt. Bommasani hofft, dass zusätzliche Transparenz durch den Gesetzentwurf Assembly Bill 2013 erreicht wird, der ab dem 1. Januar 2024 in Kraft tritt und die Offenlegung von Daten zur Ausbildung von KI-Modellen vorschreibt. Weitergehende Bestimmungen von SB 53 treten 2027 in Kraft, wenn das OES anonymisierte Berichte über kritische KI-Sicherheitsvorfälle veröffentlicht, die von der Öffentlichkeit und KI-Entwicklern gemeldet werden. Obwohl dies die Risiken für Angriffe oder autonome Handlungen von KI klären könnte, wird es keine spezifischen KI-Modelle öffentlich benennen, die besondere Gefahren darstellen.