SACRAMENTO, Calif. (AP) — Dimarts, el governador de Califòrnia, Gavin Newsom, va promulgar tres noves lleis amb l'objectiu de reduir l'ús de la intel·ligència artificial per crear imatges o vídeos falsos en publicitat política abans de les eleccions del 2024. Una de les lleis, que entra en vigor immediatament, prohibeix la creació i distribució de deepfakes relacionats amb les eleccions dins dels 120 dies anteriors al Dia de les Eleccions i durant 60 dies després. La legislació permet als tribunals detenir la disseminació d’aquests materials i imposar sancions civils per infraccions. "Protegir la integritat de les eleccions és vital per a la democràcia, i hem d'assegurar-nos que la IA no es faci servir de manera incorrecta per erosionar la confiança pública a través de la desinformació, especialment en el nostre entorn polític actual", va dir Newsom. "Aquestes iniciatives ajudaran a combatre l'ús nociu dels deepfakes en la publicitat política i altres formes de contingut, com a part dels esforços proactius de l'estat per promoure una IA transparent i de confiança. " A més, una llei pionera que requereix que les grans plataformes de xarxes socials eliminin el contingut enganyós entrarà en vigor l'any que ve. Una altra llei obliga les campanyes polítiques a divulgar quan utilitzen materials alterats per IA en els seus anuncis. La signatura d'aquestes lleis per part de Newsom va ser rebuda amb forts aplaudiments durant una discussió amb el CEO de Salesforce, Marc Benioff, a una important conferència de programari a San Francisco. Aquestes noves lleis reforcen la reputació de Califòrnia com a líder en la regulació de la IA als Estats Units, especialment en la lluita contra els deepfakes electorals. L'estat va ser el primer del país a prohibir el contingut manipulat relacionat amb les eleccions l'any 2019. Els experts assenyalen que les propostes de Califòrnia en relació amb la tecnologia i la IA sovint serveixen de model per als legisladors de tot el país. Amb la IA amplificant el risc de desinformació electoral globalment, els legisladors de tot el país es mouen ràpidament per abordar el problema enmig dels temors que aquest contingut manipulat pugui minar la confiança pública en els mitjans.

"Amb menys de 50 dies fins a les eleccions generals, hi ha una necessitat urgent de protegir-se contra el contingut enganyós i digitalment modificat que podria interrompre les eleccions", va dir la diputada Gail Pellerin, autora de la llei. "Califòrnia està prenent una postura ferma contra l'aplicació enganyosa de la tecnologia deepfake destinada a desinformar els votants. " Les accions de Newsom es basen en un compromís assumit al juliol per abordar els deepfakes electorals, particularment com a resposta a un vídeo compartit pel propietari de X, Elon Musk, que mostrava imatges alterades de la vicepresidenta i candidata presidencial demòcrata Kamala Harris. Coincidint amb el mateix dia, membres del Congrés van presentar una legislació federal per abordar els deepfakes electorals. Aquest projecte de llei permetria a la Comissió Electoral Federal regular l'ús de la IA en les eleccions de manera similar a com ha supervisat altres formes de tergiversació política durant anys. La FEC ha començat a explorar aquestes mesures reguladores després de prohibir les trucades automàtiques generades per IA amb l'objectiu de suprimir la participació dels votants al febrer. Newsom ha promocionat Califòrnia com a pionera tant en l’adopció com en la regulació de la tecnologia IA, suggerint que l'estat podria implementar aviat eines d’IA generativa per alleujar la congestió de les autopistes i oferir orientació fiscal. Mentrestant, la seva administració també està avaluant noves regles per combatre la discriminació de la IA en els processos de contractació.