Un gruppo di esperti di intelligenza artificiale, convocato dal governatore della California Gavin Newsom, ha pubblicato martedì una relazione preliminare fondamentale che raccomanda una maggiore trasparenza nello sviluppo e nelle operazioni dei modelli di IA. Il Joint California Policy Working Group on AI Frontier Models mira a migliorare sia l'innovazione che la fiducia pubblica, assicurando al contempo salvaguardie contro i danni legati all'IA. Formata dopo che Newsom ha posto il veto a un importante progetto di regolamentazione dell'IA lo scorso autunno, il gruppo consiglia ai legislatori di incoraggiare la divulgazione dei rischi da parte delle aziende di IA, di utilizzare valutazioni indipendenti per i modelli avanzati, di considerare le protezioni per i whistleblower e di valutare la necessità di un sistema per segnalare sviluppi potenzialmente pericolosi legati all'IA. Il senatore Scott Wiener, che ha introdotto il disegno di legge bocciato, ha elogiato l'approccio equilibrato del rapporto nella tutela mentre promuove l'innovazione. Intende incorporare i suggerimenti in una versione riveduta nota come Senate Bill 53. La relazione preliminare non sostiene né si oppone direttamente alla legislazione esistente, ma ci si aspetta che influisca su circa 30 progetti di legge pendenti relativi alle regolazioni dell'IA, inclusi quelli che affrontano le implicazioni dei costi dell'IA, le preoccupazioni ambientali e l'impatto sulla salute pubblica. Il rapporto evidenzia le attuali regolazioni globali sull'IA provenienti da paesi come Brasile, Cina e UE, e sottolinea il potenziale della California di guidare la definizione di una governance efficace grazie alla sua concentrazione di aziende di IA e istituzioni di ricerca.

Avverte che senza adeguate salvaguardie l'IA potrebbe comportare rischi significativi. Il feedback pubblico è aperto fino all'8 aprile prima che le raccomandazioni siano finalizzate quest'estate. Gli autori del rapporto includono figure di spicco nel campo dell'IA, come Mariano-Florentino Cuéllar, Jennifer Tour Chayes e Fei-Fei Li, che sono voci influenti nelle discussioni politiche sull'IA. Sebbene alcuni stakeholder abbiano accolto il rapporto, altri esprimono preoccupazione che manchi di raccomandazioni praticabili. I gruppi di advocacy sottolineano l'urgenza di stabilire regolamenti solidi per prevenire danni legati all'IA, suggerendo che la California debba agire decisamente per mantenere la propria leadership nella governance dell'IA. La bozza del rapporto si allinea con il discorso in corso sulla sicurezza e sulla regolamentazione dell'IA, evidenziando la necessità di misure proattive in risposta alle tecnologie in rapida evoluzione.