Senatul din California, Proiectul de Lege 1047, introdus de senatorul de stat Scott Wiener, este o propunere revoluționară care ar face obligatoriu pentru companiile de AI care construiesc modele la scară largă să efectueze teste de siguranță. Proiectul de lege, cunoscut sub numele de „Actul de Inovație Sigură și Securizată pentru Modelele de Inteligență Artificială de Frontieră, ” a generat o atenție largă datorită opoziției din Silicon Valley și îngrijorărilor legate de sufocherea inovației. OpenAI, printre alți dezvoltatori de AI, susține că reglementarea AI ar trebui să fie lăsată în seama guvernului federal și sugerează că companiile ar putea părăsi California dacă legislația este adoptată. În ciuda unor amendamente făcute ca răspuns la criticile din industrie, Wiener menține că proiectul de lege găsește un echilibru între facilitarea inovației și abordarea riscurilor inerente ale tehnologiei puternice.

Legislația propusă cere companiilor să implementeze măsuri de siguranță, cum ar fi stabilirea unei capacități de „oprire completă, ” elaborarea unui plan tehnic pentru abordarea riscurilor și efectuarea auditurilor terților. Nerespectarea ar putea rezulta în sancțiuni civile și obligații de raportare către Procurorul General al Californiei. Criticii susțin că proiectul de lege creează obligații împovărătoare, în timp ce susținătorii argumentează că promovează siguranța AI fără a împiedica progresul. Proiectul de lege este în prezent în așteptarea unui vot în Adunarea de Stat și, dacă va fi aprobat, va merge la guvernatorul Gavin Newsom pentru aprobare finală.