SACRAMENTO, Kalifornie (AP) - V utorok kalifornský guvernér Gavin Newsom schválil tri nové zákony zamerané na obmedzenie používania umelej inteligencie na vytváranie falošných obrazov alebo videí vo volebných reklamách pred voľbami v roku 2024. Jeden z týchto zákonov, účinný okamžite, zakazuje vytváranie a distribúciu volebne relevantných deepfakes do 120 dní pred voľbami a do 60 dní po nich. Legislatíva umožňuje súdom zastaviť šírenie takýchto materiálov a uložiť občianske sankcie za porušenia. “Ochrana integrity volieb je životne dôležitá pre demokraciu a musíme zabezpečiť, aby sa AI nezneužívala na eróziu verejnej dôvery prostredníctvom dezinformácií, obzvlášť v našom súčasnom politickom prostredí, ” uviedol Newsom. “Tieto iniciatívy pomôžu bojovať proti škodlivému používaniu deepfakes vo volebných reklamách a iných druhoch obsahu, ako súčasť proaktívnych snáh štátu o podporu transparentnej a dôveryhodnej AI. ” Ďalej, priekopnícky zákon vyžadujúci, aby veľké sociálne mediálne platformy odstránili klamlivý obsah, nadobudne účinnosť budúci rok. Ďalší návrh zákona je povinnosť kampaní zverejniť, keď používajú v reklamách materiály upravené pomocou AI. Podpis Newsoma týchto zákonov bol prijatý s nadšeným potleskom počas diskusie s generálnym riaditeľom Salesforce Marcom Benioffom na významnej softvérovej konferencii v San Franciscu. Tieto nové zákony posilňujú reputáciu Kalifornie ako priekopníka v regulácii AI v Spojených štátoch, najmä v boji proti volebným deepfakes. Štát bol prvý v národe, ktorý zakázal manipulovaný obsah súvisiaci s voľbami už v roku 2019.

Odborníci poznamenávajú, že návrhy Kalifornie týkajúce sa technológie a AI často slúžia ako modely pre zákonodarcov na celom území. S AI, ktorá zosilňuje riziko volebných dezinformácií globálne, zákonodarcovia na celom území sa rýchlo presúvajú na riešenie problému uprostred obáv, že takýto manipulovaný obsah by mohol podkopať verejnú dôveru v média. “S menej ako 50 dňami do všeobecných volieb, existuje naliehavá potreba chrániť pred klamlivým, digitálne upraveným obsahom, ktorý by mohol narušiť voľby, ” povedala členka zhromaždenia Gail Pellerin, autorka zákona. “Kalifornia zaujíma pevný postoj proti klamlivému používaniu technológie deepfake zameranej na dezinformovanie voličov. ” Kroky Newsoma nasledujú po záväzku z júla riešiť volebné deepfakes, najmä v reakcii na video zdieľané vlastníkom X, Elonom Muskom, ktoré obsahovalo upravené obrazy viceprezidentky a demokratickej prezidentskej kandidátky Kamaly Harrisovej. Zhodou okolností, v ten istý deň, členovia Kongresu predstavili federálnu legislatívu na riešenie volebných deepfakes. Tento zákon by umožnil Federálnej volebnej komisii regulovať používanie AI vo voľbách podobne ako dohliada na iné formy politického skresľovania už roky. FEC začala skúmať takéto regulačné opatrenia po zákaze AI-generovaných robohovorov určených na potlačenie volebného účasti vo februári. Newsom propaguje Kaliforniu ako skorého prijímateľa a regulátora AI technológie, naznačuje, že štát môže čoskoro implementovať nástroje generatívnej AI na zmiernenie dopravných zápch a poskytovanie daňového poradenstva. Medzitým jeho administratíva tiež vyhodnocuje nové pravidlá na boj proti diskriminácii AI pri náborových procesoch.