Штучний інтелект (ШІ) має потенціал як усунути дискримінаційні практики у житловій сфері та полегшити доступ до державних пільг, так і створити ризик відмови в наданні необхідних послуг, таких як медичне обслуговування чи кредити, на основі раси. Для вирішення цих проблем член Демократичної асамблеї Ребекка Бауер-Кахан з Сан Рамона запропонувала законопроект № 1018, що має на меті захистити осіб від автоматизованої дискримінації. Цей законопроект вимагатиме від розробників ШІ оцінити ефективність їх технології перед її впровадженням та сповіщати користувачів, коли ШІ використовується для прийняття важливих рішень щодо працевлаштування, освіти, медичного обслуговування тощо. Також він надає людям право відмовитися від процесів прийняття рішень за участю ШІ та оскаржувати ці рішення. Законодавці Каліфорнії активно шукають шляхи регулювання ШІ, причому Бауер-Кахан очолює ініціативи, спрямовані на захист громадян від дискримінаційних практик. Цього року було введено кілька законопроектів, деякі з яких були раніше накладені вето губернатором Гевіном Ньюсомом. Серед цих пропозицій є законодавство, яке вимагає наявності водіїв для комерційних транспортних засобів та повторної оцінки ризиків, пов’язаних із технологією ШІ. Незважаючи на досягнення в законодавстві щодо ШІ минулого року, політичний ландшафт змінився, і нинішня адміністрація Трампа відступила від регулювання ШІ. У результаті законодавці Каліфорнії можуть отримати більше імпульсу для ухвалення захисних норм.

Експерти очікують, що тиск на ухвалення державного законодавства посилиться, оскільки існуючі федеральні норми стрімко скасовуються, підкреслюючи унікальну позицію штату в секторі технологій. Контрастні підходи до регулювання ШІ були очевидні на недавньому саміті в Парижі, де зібралися лідери різних країн. Деякі, як колишня чиновниця Білого дому Алондра Нельсон, закликали до забезпечення того, щоб ШІ служив людству і покращував демократію, в той час як інші, включаючи віце-президента Дж. Д. Ванса, висловлювали рішучу позицію проти того, що вони сприймають як надмірне регулювання. Занепокоєння щодо ШІ також стосується його впливу на малозабезпечених американців, оскільки в звіті йдеться про те, що системи ШІ часто ускладнюють доступ до основних державних послуг. Оскільки Каліфорнія є домом для значної частини технологічних талантів та венчурного капіталу, результати обговорення регуляцій щодо ШІ в штаті можуть мати далекосяжні наслідки. Тиск з боку організацій захисту прав людини та зростаюче громадське занепокоєння щодо впливу ШІ можуть зміцнити зусилля законодавців щодо впровадження надійних захисних норм. Адвокати наголошують на необхідності законодавства, яке не піддається надмірному впливу чи послабленню з боку корпоративних інтересів. Бауер-Кахан залишається непохитною у своїх зобов'язаннях запобігати дискримінації, пов'язаній із ШІ, продемонструвавши критичну важливість ефективного регулювання на рівні штату у світлі змінюваних федеральних позицій з цього питання.