Umelá inteligencia (AI) má potenciál nielen eliminovať diskriminačné praktiky v oblasti bývania a uľahčiť prístup k vládnym dávkam, ale aj riziko odopretia základných služieb, ako sú zdravotná starostlivosť alebo pôžičky, na základe rasy. Na riešenie týchto otázok navrhla demokratická poslankyňa Rebecca Bauer-Kahan zo San Ramonu návrh zákona Assembly Bill 1018, ktorý má za cieľ chrániť jednotlivcov pred automatizovanou diskrimináciou. Tento zákon by vyžadoval, aby vývojári AI posúdili výkon svojej technológie pred nasadením a informovali užívateľov, keď AI používa pri rozhodovaní o zamestnaní, vzdelaní, zdravotnej starostlivosti a ďalších oblastiach. Zároveň dáva jednotlivcom právo odmietnuť rozhodovacie procesy AI a odvolať sa proti týmto rozhodnutiam. Kalifornskí zákonodarcovia aktívne usilujú o reguláciu AI, pričom Bauer-Kahan vedie iniciatívy zamerané na ochranu občanov pred diskriminačnými praktikami. Tento rok bolo predložených niekoľko návrhov zákonov, z ktorých niektoré boli predtým vetované guvernérom Gavinom Newsomom. Medzi týmito návrhmi je legislatíva vyžadujúca, aby za komerčné vozidlá riadili ľudia, a prehodnotenie rizík spojených s technológiou AI. Napriek pokroku v oblasti právnych predpisov týkajúcich sa AI v minulom roku sa politická situácia zmenila, pričom súčasná Trumpova administratíva ustúpila od regulácie AI. V dôsledku toho môžu mať kalifornskí zákonodarcovia väčšiu motiváciu prijať ochranné regulácie.

Odborníci predpokladajú, že tlak na štátnu legislatívu sa zosilní, keď sa zrušia existujúce federálne smernice, čo zvýrazňuje jedinečnú pozíciu štátu v technologickom sektore. Protikladné prístupy k regulácii AI boli zjavné na nedávnom summite v Paríži, kde sa zišli lídri z rôznych krajín. Kým niektorí, ako bývalá úradníčka Bieleho domu Alondra Nelson, presadzovali, aby AI slúžila ľudstvu a posilňovala demokraciu, iní, vrátane viceprezidenta J. D. Vancea, vyjadrovali silný postoj proti tomu, čo považujú za nadmerné regulácie. Obavy z AI sa týkajú aj jej dopadov na Američanov s nízkym príjmom, pretože správa ukázala, že systémy AI často bránia prístupu k základným vládnym službám. Keďže Kalifornia je domovom významného množstva technických talentov a rizikových kapitálov, výsledok diskusií o regulácii AI v štáte by mohol mať ďalekosiahle dôsledky. Tlak zo strany organizácií za občianske práva a rastúci verejný záujem o dopad AI môžu posilniť úsilie zákonodarcov o zavedenie robustných ochranných opatrení. Zástancovia zdôrazňujú potrebu legislatívy, ktorá nie je nadmerne ovplyvnená alebo oslabená firemnými záujmami. Bauer-Kahan zostáva odhodlaná zabrániť diskriminácii súvisiacej s AI, čím demonštruje dôležitosť efektívnej regulácie na úrovni štátu v prostredí meniacich sa federálnych postojov k tejto otázke.