SACRAMENTO, Californie (AP) — Mardi, le gouverneur de Californie Gavin Newsom a promulgué trois nouvelles lois visant à limiter l'utilisation de l'intelligence artificielle pour créer des images ou des vidéos fausses dans les publicités politiques avant l'élection de 2024. L'une des lois, immédiatement en vigueur, interdit la création et la distribution de deepfakes liés aux élections dans les 120 jours précédant le jour de l'élection et pendant 60 jours après celle-ci. La législation permet aux tribunaux de stopper la diffusion de ces matériaux et d'imposer des sanctions civiles pour les violations. « Protéger l'intégrité des élections est vital pour la démocratie, et nous devons nous assurer que l'IA n'est pas utilisée à mauvais escient pour éroder la confiance du public par la désinformation — surtout dans notre environnement politique actuel », a déclaré Newsom. « Ces initiatives aideront à combattre l'utilisation nuisible des deepfakes dans les publicités politiques et autres formes de contenu, dans le cadre des efforts proactifs de l'État pour promouvoir une IA transparente et digne de confiance. » De plus, une loi pionnière obligeant les grandes plateformes de médias sociaux à éliminer le contenu trompeur entrera en vigueur l'année prochaine. Un autre projet de loi oblige les campagnes politiques à divulguer lorsqu'elles utilisent des matériaux modifiés par l'IA dans leurs annonces. La signature de ces projets de loi par Newsom a été accueillie par des applaudissements enthousiastes lors d'une discussion avec le PDG de Salesforce, Marc Benioff, lors d'une conférence de logiciels importante à San Francisco. Ces nouvelles lois renforcent la réputation de la Californie en tant que leader dans la réglementation de l'IA aux États-Unis, en particulier dans la lutte contre les deepfakes électoraux. L'État a été le premier au pays à interdire le contenu manipulé lié aux élections en 2019.

Les experts notent que les propositions de la Californie concernant la technologie et l'IA servent souvent de modèles pour les législateurs à travers le pays. Avec l'IA amplifiant le risque de désinformation électorale dans le monde entier, les législateurs à travers le pays se mobilisent rapidement pour s'attaquer à la question, craignant que ce contenu manipulé ne sape la confiance du public dans les médias. « À moins de 50 jours de l'élection générale, il est urgent de se protéger contre le contenu trompeur et modifié numériquement qui pourrait perturber l'élection », a déclaré Gail Pellerin, l'auteur de la loi. « La Californie prend une position ferme contre l'application trompeuse de la technologie des deepfakes visant à induire les électeurs en erreur. » Les actions de Newsom font suite à un engagement pris en juillet pour s'attaquer aux deepfakes électoraux, en particulier en réponse à une vidéo partagée par le propriétaire de X, Elon Musk, qui présentait des images modifiées de la vice-présidente et candidate démocrate à la présidence, Kamala Harris. Par coïncidence, le même jour, des membres du Congrès ont dévoilé une législation fédérale pour s'attaquer aux deepfakes électoraux. Ce projet de loi donnerait à la Commission électorale fédérale le pouvoir de réglementer l'utilisation de l'IA dans les élections de manière similaire à la façon dont elle a supervisé d'autres formes de désinformation politique pendant des années. La FEC a commencé à explorer de telles mesures réglementaires après avoir interdit les appels automatiques générés par l'IA destinés à supprimer la participation des électeurs en février. Newsom a promu la Californie comme à la fois un précurseur et un régulateur de la technologie de l'IA, suggérant que l'État pourrait bientôt mettre en œuvre des outils d'IA générative pour alléger la congestion autoroutière et fournir des conseils fiscaux. Pendant ce temps, son administration évalue également de nouvelles règles pour combattre la discrimination par l'IA dans les processus de recrutement.