З 1 січня вступає в силу новий закон, підписаний губернатором Каліфорнії Гевіном Ньюсомом, який вимагає від технологічних компаній, що створюють великі, передові моделі штучного інтелекту, такі як Google та OpenAI, підвищити прозорість щодо суспільних наслідків і захистити працівників, які висловлюють побоювання щодо безпеки. Закон передбачає захист свідків-інформаторів для співробітників, що оцінюють критичні ризики безпеки, і зобов’язує великих розробників ШІ публікувати на своїх сайтах рамкові документи, у яких детально описуються способи управління катастрофічними ризиками та реагування на інциденти. Компанії повинні повідомляти про критичні інциденти безпеки до штату протягом 15 днів або протягом 24 годин у разі невідкладної загрози смерті або поранення. Штрафи можуть досягати 1 мільйона доларів за кожне порушення. Закон походить від Сенатського законопроекту №53 Сената штату Каліфорнія, автора — сенатора Скота Вінера. Закон спрямований на катастрофічні ризики, визначені як сценарії, за яких ШІ спричинює понад 50 смертей через кібератаки або використання зброї, або призводить до збитків або втрат понад 1 мільярд доларів, особливо у випадках, коли оператори втрачають контроль над дії штучного інтелекту — що є здебільшого гіпотетичним питанням. Закон зобов’язує розробників ШІ публікувати звіти про прозорість, у яких описуються наміри щодо використання моделей, обмеження у їх застосуванні, підходи до управління ризиками та будь-який третій сторонній огляд цих заходів. Ріші Болмасані з Стенфорда, один із головних учасників дослідження, яке вплинуло на SB 53, вважає цей закон важливим кроком вперед для прозорості ШІ, зазначаючи, що лише 3 з 13 компаній, які досліджувала його команда, регулярно повідомляють про інциденти, а рівень прозорості зрозуміло знизився.

Однак він наголошує, що вплив закону значною мірою залежить від його дотримання та ресурсного забезпечення урядових агентств. Закон також вплинув на інші штати; закон Нью-Йорка щодо прозорості та безпеки ШІ слідує за моделлю Каліфорнії. Попри прогрес, критики зазначають суттєві прогалини: закон не враховує ризики, пов’язані з екологічними впливами, дезінформацією, системними упередженнями, такими як сексизм чи расизм, і не охоплює урядові системи ШІ, що використовуються для профілювання чи оцінки впливу. Він застосовується лише до компаній з щорічним доходом понад 500 мільйонів доларів. Вимоги щодо прозорості також обмежені — звіти про інциденти, що подаються до Управління надзвичайних ситуацій Каліфорнії (OES), є конфіденційними і доступні лише законодавцям і губернатору, при цьому можуть бути редаговані для захисту комерційних таємниць, що обмежує доступ громадськості. Болмасані сподівається, що додаткова прозорість з’явиться завдяки Законопроекту зборів №2013, який набере чинності з 1 січня 2024 року і вимагає розкриття інформації про дані, використані для навчання моделей ШІ. Додаткові положення SB 53 почнуть застосовуватися з 2027 року, коли OES почне публікувати анонімізовані звіти про критичні інциденти безпеки ШІ, отримані від громадськості та розробників штучного інтелекту. Хоча це може прояснити потенційні атаки або автономні дії ШІ, публічно не буде ідентифіковано конкретні моделі ШІ, що становлять ризик.