Kunstig intelligens (AI) rummer både potentialet til at fjerne diskriminerende boligpraksisser og lette adgangen til regeringens fordele, men også risikoen for at nægte essentielle tjenester som sundhedspleje eller lån baseret på race. For at tackle disse problemer har den demokratiske samfundsrepræsentant Rebecca Bauer-Kahan fra San Ramon foreslået lovforslag 1018, som sigter mod at beskytte individer mod automatiseret diskrimination. Dette lovforslag ville kræve, at AI-udviklere vurderer deres teknologis præstation, inden den tages i brug, og underretter brugerne, når AI anvendes til at træffe væsentlige beslutninger om beskæftigelse, uddannelse, sundhedspleje og mere. Det giver også individer ret til at fravælge beslutningsprocesser vedrørende AI og anke disse beslutninger. California-lovgivere søger aktivt at regulere AI, med Bauer-Kahan som leder af initiativer, der fokuserer på at beskytte borgere mod diskriminerende praksisser. I år er flere lovforslag blevet indført, nogle af dem tidligere nedlagt veto af guvernør Gavin Newsom. Blandt disse forslag er lovgivning, der kræver menneskelige chauffører til erhvervskøretøjer og en genvurdering af de risici, der er forbundet med AI-teknologi. På trods af sidste års fremskridt inden for AI-lovgivning har det politiske landskab ændret sig, idet den nuværende Trump-administration trækker sig tilbage fra AI-regulering. Som et resultat heraf kan California-lovgivere have en større drivkraft til at gennemføre beskyttende regler.

Eksperter forventer, at presset for statsbestemt lovgivning vil intensiveres, efterhånden som eksisterende føderale retningslinjer rulles tilbage, hvilket fremhæver statens unikke position i tech-sektoren. De modsatrettede tilgange til regulering af AI blev tydelige på et nyligt Paris-topmøde, hvor ledere fra forskellige nationer mødtes. Mens nogle, såsom den tidligere embedsmand i Det Hvide Hus Alondra Nelson, talte for at sikre, at AI tjener menneskeheden og forbedrer demokratiet, udtrykte andre, herunder vicepræsident J. D. Vance, en stærk modstand mod, hvad de opfatter som overdrevne reguleringer. Bekymringerne omkring AI strækker sig også til dens indvirkning på lavindkomstamerikanere, da en rapport afslørede, at AI-systemer ofte hindrer adgangen til essentielle offentlige tjenester. Da California huser en betydelig del af tech-talenter og venturekapital, kan udfaldet af diskussionerne om AI-regulering i staten få vidtrækkende konsekvenser. Pres fra borgerrettighedsorganisationer og stigende offentlig bekymring over AI's indvirkning kan styrke lovgiveres indsats for at implementere robuste beskyttelser. Forkæmpere understreger behovet for lovgivning, der ikke er overdrevent påvirket eller svækket af virksomheders interesser. Bauer-Kahan forbliver fast besluttet på at forhindre AI-relateret diskrimination og demonstrerer vigtigheden af effektiv regulering på statsniveau i lyset af de ændrede føderale holdninger til spørgsmålet.