La intel·ligència artificial està avançant ràpidament, permetent imitar convincentment els humans, cosa que ha generat un augment de les estafes telefòniques i la creació d'imatges deepfake no consensuades de famosos per al assetjament. Per tant, hi ha una necessitat urgent de regulació, que Califòrnia està abordant amb el projecte de llei proposat SB 1047. Aquest projecte de llei, ara pendent de l'aprovació del governador Gavin Newsom després de passar per la legislatura estatal, establiria les regulacions de IA més estrictes dels EUA. Els crítics afirmen que podria perjudicar les startups i l'acadèmia, mentre que els partidaris ho veuen com una supervisió necessària davant els riscos que planteja la tecnologia de IA. El SB 1047 va originar-se com una mesura integral que requeria que els desenvolupadors de sistemes avançats d'IA realitzessin proves de seguretat extensives, implementessin “botons d'emergència” i certifiquessin la seguretat dels seus models.

No obstant això, una resistència significativa de la indústria tecnològica va portar a una versió més suau del projecte de llei, que elimina l'agència reguladora i permet als desenvolupadors proporcionar declaracions de seguretat no vinculants en lloc de fer front a penes greus. Malgrat aquestes esmenes, els partidaris argumenten que fins i tot una versió més dèbil del projecte de llei podria fomentar un desenvolupament responsable de la IA. La comunitat tecnològica roman dividida sobre les implicacions del projecte de llei. Alguns líders de la indústria temen que pugui dificultar la competitivitat dels EUA en IA, mentre que altres, incloent figures influyents com el CEO d'Anthropic, creuen que ofereix salvaguardes necessàries. La decisió del governador Newsom, pendent fins al setembre, és crítica, ja que navega per la complexitat de balancejar el progrés tecnològic amb la seguretat pública mentre també gestiona les repercussions polítiques vinculades a donacions significatives de campanya dels executius tecnològics.