La inteligencia artificial (IA) tiene tanto el potencial de eliminar prácticas discriminatorias en la vivienda como de facilitar el acceso a beneficios gubernamentales, así como el riesgo de negar servicios esenciales como atención médica o préstamos basados en la raza. Para abordar estos problemas, la miembro de la Asamblea Demócrata Rebecca Bauer-Kahan de San Ramón ha propuesto el Proyecto de Ley de la Asamblea 1018, que busca proteger a las personas de la discriminación automatizada. Este proyecto obligaría a los desarrolladores de IA a evaluar el rendimiento de su tecnología antes de su implementación y a notificar a los usuarios cuando se utilice IA para tomar decisiones importantes en relación con el empleo, la educación, la atención médica y más. También otorga a los individuos el derecho a excluirse de los procesos de toma de decisiones de IA y apelar esas decisiones. Los legisladores de California están buscando activamente regular la IA, con Bauer-Kahan liderando iniciativas centradas en proteger a los ciudadanos contra prácticas discriminatorias. Este año, se han introducido múltiples proyectos de ley, algunos de los cuales fueron anteriormente vetados por el gobernador Gavin Newsom. Entre estas propuestas se encuentra una legislación que exige conductores humanos para vehículos comerciales y una reevaluación de los riesgos asociados con la tecnología de IA. A pesar de los avances en las leyes de IA del año pasado, el panorama político ha cambiado, con la actual administración de Trump dando un paso atrás en la regulación de la IA. Como resultado, los legisladores de California pueden tener un mayor impulso para promulgar regulaciones protectoras.

Los expertos anticipan que el impulso por la legislación estatal se intensificará a medida que se reduzcan las pautas federales existentes, destacando la posición única del estado en el sector tecnológico. Los enfoques contrastantes hacia la regulación de la IA quedaron evidentes en una reciente cumbre en París, donde se reunieron líderes de varias naciones. Mientras que algunos, como la exfuncionaria de la Casa Blanca Alondra Nelson, abogaron por asegurar que la IA sirva a la humanidad y mejore la democracia, otros, incluido el vicepresidente J. D. Vance, expresaron una fuerte postura en contra de lo que consideran regulaciones excesivas. Las preocupaciones sobre la IA también se extienden a sus implicaciones para los estadounidenses de bajos ingresos, ya que un informe reveló que los sistemas de IA a menudo dificultan el acceso a servicios gubernamentales esenciales. Con California albergando una porción significativa de talento tecnológico y capital de riesgo, el resultado de las discusiones sobre la regulación de la IA en el estado podría tener implicaciones de gran alcance. La presión de las organizaciones de derechos civiles y la creciente preocupación pública sobre el impacto de la IA pueden fortalecer los esfuerzos de los legisladores para implementar protecciones sólidas. Los defensores enfatizan la necesidad de una legislación que no esté excesivamente influenciada o debilitada por intereses corporativos. Bauer-Kahan se mantiene firme en su compromiso de prevenir la discriminación relacionada con la IA, demostrando la importancia de una regulación efectiva a nivel estatal en medio de la evolución de las posturas federales sobre el tema.