Le projet de loi 1047 du Sénat de Californie, introduit par le sénateur de l'État Scott Wiener, est une proposition révolutionnaire qui rendrait obligatoire pour les entreprises d'IA construisant des modèles à grande échelle de mener des tests de sécurité. Le projet de loi, connu sous le nom de 'Loi sur l'innovation sûre et sécurisée pour les modèles d'intelligence artificielle de nouvelle génération', a suscité une attention généralisée en raison de l'opposition de la Silicon Valley et des préoccupations concernant l'étouffement de l'innovation. OpenAI, parmi d'autres développeurs d'IA, soutient que la régulation de l'IA devrait être laissée au gouvernement fédéral et suggère que les entreprises pourraient quitter la Californie si la législation est adoptée. Malgré certaines modifications apportées en réponse aux critiques de l'industrie, Wiener maintient que le projet de loi trouve un équilibre entre faciliter l'innovation et aborder les risques inhérents à la technologie puissante.

La législation proposée exige que les entreprises mettent en place des mesures de sécurité, telles que la mise en place d'une capacité de 'shutdown complet', l'élaboration d'un plan technique pour faire face aux risques et le passage par des audits tiers. Le non-respect pourrait entraîner des sanctions civiles et des obligations de rapport au procureur général de Californie. Les critiques affirment que le projet de loi crée des obligations lourdes, tandis que les partisans soutiennent qu'il promeut la sécurité de l'IA sans entraver les progrès. Le projet de loi attend actuellement un vote à l'assemblée de l'État, et s'il est adopté, il sera soumis au gouverneur Gavin Newsom pour approbation finale.