Umělá inteligence (AI) má potenciál jak eliminovat diskriminační praktiky v bydlení a usnadnit přístup k vládním dotacím, tak také riziko, že odepře základní služby, jako je zdravotní péče nebo půjčky, na základě rasy. Aby se těmto problémům čelilo, navrhla demokratická poslankyně Rebecca Bauer-Kahan ze San Ramonu zákon o shromáždění 1018, jehož cílem je chránit jednotlivce před automatizovanou diskriminací. Tento zákon by vyžadoval, aby vývojáři AI posoudili výkonnost své technologie před jejím nasazením a informovali uživatele, když je AI použita k činění významných rozhodnutí týkajících se zaměstnání, vzdělání, zdravotní péče a dalších oblastí. Dále poskytuje jednotlivcům právo rozhodnout se, že se nebudou podílet na procesech rozhodování AI a možnost odvolat tato rozhodnutí. Kalifornští zákonodárci aktivně usilují o regulaci AI, přičemž Bauer-Kahan vede iniciativy zaměřené na ochranu občanů před diskriminačními praktikami. Tento rok bylo předloženo více návrhů zákonů, z nichž některé byly dříve vetaovány guvernerem Gavin Newsomem. Mezi těmito návrhy je legislativa, která vyžaduje lidské řidiče pro obchodní vozidla a přepracování rizik spojených s technologií AI. Navzdory pokrokům v právních předpisech o AI v loňském roce se politická situace změnila, přičemž současná Trumpova administrativa ustoupila od regulace AI. V důsledku toho mohou mít kalifornští zákonodárci větší motivaci přijímat ochranné předpisy.

Odborníci předpokládají, že tlak na státní legislativu se zesílí, když se stáhnou stávající federální pokyny, což podtrhuje jedinečné postavení státu v technologickém sektoru. Oproti přístupům k regulaci AI byly zřejmé na nedávném summitu v Paříži, kde se sešli vůdci různých národů. Zatímco někteří, jako bývalá úřednice Bílého domu Alondra Nelson, prosazovali, aby AI sloužila lidstvu a posílila demokracii, jiní, včetně viceprezidenta J. D. Vance, vyjádřili silný postoj proti tomu, co považují za nadměrné regulace. Obavy ohledně AI se také týkají jejích dopadů na nízkopříjmové Američany, neboť zpráva odhalila, že systémy AI často brání přístupu k základním vládním službám. Vzhledem k tomu, že Kalifornie hostí významnou část technologického talentu a rizikového kapitálu, může výsledek diskusí o regulaci AI ve státě mít dalekosáhlé důsledky. Tlak ze strany organizací za občanská práva a rostoucí veřejné obavy ohledně dopadu AI mohou posílit úsilí zákonodárců o zavedení robustních ochran. Zastánci zdůrazňují potřebu legislativy, která není nadměrně ovlivněna nebo oslabena korporátními zájmy. Bauer-Kahan zůstává neochvějná ve své oddanosti zabránit diskriminaci související s AI, což ukazuje na důležitost efektivní regulace na státní úrovni v prostředí vyvíjejících se federálních postojů k této otázce.