Kalifornian lainsäätäjät ovat äänestäneet kiistanalaisen lakiehdotuksen, nimeltään senaatin lakiehdotus 1047, puolesta, joka vaatii voimakkaita tekoälymuotoja kehittäviä tai muokkaavia yrityksiä testaamaan malliensa mahdollisen vahingon yhteiskunnalle. Lakiehdotus määrää, että yritykset, jotka käyttävät merkittäviä rahamääriä tekoälyyn joko koulutuksen tai muokkausten kautta, arvioivat mallin kykyä mahdollistaa kyberturvallisuus- tai infrastruktuuri-iskut sekä haitallisten aseiden kehittäminen. Lakiehdotusta ovat vastustaneet yritykset kuten Google ja Meta sekä tekoälyasiantuntijat, jotka väittävät, että noudattamiskustannukset ja oikeudelliset huolet voivat estää innovaatiota ja avoimen lähdekoodin tekoälytyökalujen julkaisua. Toisaalta ns. ilmiantajat ja tekoälylainsäädännön puolestapuhujat tukevat lakiehdotusta väittäen, että tekoälytyökalut aiheuttavat merkittäviä riskejä ja että hallituksen sääntely on ollut riittämätöntä.

Lakiehdotuksen laatija, senaattori Wiener, totesi, että sen tarkoitus on ylläpitää turvallisuustestausstandardeja, joista on jo sovittu presidentti Bidenin ja muiden maailman johtajien kanssa. Huolimatta huolista, että lakiehdotus voisi johtaa yritysten lähtemiseen osavaltiosta, Wiener hylkäsi tämän väitteen viitaten aikaisempiin tapauksiin, joissa tällaiset ennusteet eivät toteutuneet muiden teknolainsäädäntöjen hyväksymisen jälkeen. Lakiehdotus kävi läpi useita muutoksia ennen kuin se hyväksyttiin, ja kannattajat väittivät estävänsä mahdollisia tekoälykatastrofeja ja lainsäädännön vahvistamisen tarvetta. Lisäksi Kalifornian lainsäädäntö käsittelee myös muita tekoälyyn liittyviä lakeja, mukaan lukien deepfake-videoiden poistamiset, tekoälyn käyttöohjeet kouluissa, automatisoitua syrjintää vastaan taisteleminen ja äänestäjien suojaaminen harhaanjohtavilta deepfake-videoilta.