De wetgevers van Californië hebben gestemd ten gunste van een controversiële wet, bekend als Senaatswet 1047, die bedrijven die krachtige vormen van kunstmatige intelligentie ontwikkelen of aanpassen verplicht om hun modellen te testen op mogelijke schade aan de samenleving. De wet stelt dat bedrijven die een aanzienlijk bedrag uitgeven aan AI, hetzij door training of aanpassingen, het vermogen van het model moeten evalueren om cyberbeveiliging- of infrastructuuraanvallen mogelijk te maken, evenals de ontwikkeling van schadelijke wapens. De wet heeft tegenstand gekregen van bedrijven zoals Google en Meta, evenals van AI-experts die beweren dat nalevingskosten en juridische zorgen innovatie en de release van open-source AI-tools kunnen belemmeren. Aan de andere kant steunen klokkenluiders en voorstanders van AI-regulering de wet, omdat ze beweren dat AI-tools aanzienlijke risico's vormen en dat overheidsregulering onvoldoende is geweest.

De auteur van het wetsvoorstel, senator Wiener, verklaarde dat het doel is om veiligheidsnormen te handhaven die al zijn overeengekomen met president Biden en andere wereldleiders. Ondanks zorgen dat de wet ertoe kan leiden dat bedrijven de staat verlaten, verwierp Wiener dit argument onder verwijzing naar eerdere gevallen waarin dergelijke voorspellingen zich na de goedkeuring van andere technische regelgeving niet materialiseerden. De wet heeft verschillende amendementen doorlopen voordat deze werd aangenomen, waarbij voorstanders pleitten voor het voorkomen van potentiële AI-rampen en de noodzaak van sterkere wetgeving. Daarnaast overweegt de Californische wetgevende macht ook andere AI-gerelateerde wetten, waaronder het verwijderen van deepfakes, AI-gebruiksrichtlijnen voor scholen, het bestrijden van geautomatiseerde discriminatie, en maatregelen om kiezers te beschermen tegen misleidende deepfakes.