Los rápidos avances en IA requieren el establecimiento de límites y el desarrollo de una filosofía ética con respecto a su integración en el lugar de trabajo. Paula Goldman, la directora de ética y uso humano de Salesforce, enfatizó la importancia de que la IA juegue el papel de copiloto junto con los humanos en lugar de funcionar en piloto automático durante la conferencia Brainstorm AI de Fortune en Londres. Goldman expresó la necesidad de controles de próximo nivel y la capacidad de las personas para comprender el funcionamiento del sistema de IA. Hizo hincapié en la importancia de diseñar productos de IA que consideren tanto las fortalezas y debilidades de la IA como las fortalezas y debilidades de la toma de decisiones humanas. Una de las preocupaciones de Goldman se relaciona con la generación de contenido ético por parte de la IA, asegurando que esté libre de sesgos y materiales generados por usuarios, como deepfakes, que puedan perjudicar a las personas. Ella cree que el uso ético de la IA podría obstaculizar su financiamiento y desarrollo, lo que podría llevar a una pérdida de confianza o problemas de adopción por parte de los usuarios, causando un "invierno de la IA". Goldman afirmó que los futuros aumentos de productividad de la IA en el lugar de trabajo dependerán en gran medida de la capacitación y la disposición de las personas para adoptar nuevas tecnologías. Para generar confianza en los productos de IA, especialmente entre los empleados, Goldman propone la implementación de una "fricción consciente". Este concepto implica incorporar controles que aseguren que las herramientas de IA en el lugar de trabajo produzcan más beneficios que daños. Salesforce ya ha tomado medidas para implementar esta idea de "fricción consciente". Han desarrollado un producto de segmentación de marketing que genera segmentos demográficos adecuados para campañas por correo electrónico. Si bien el programa de IA proporciona segmentos demográficos potenciales, es responsabilidad del humano seleccionar los parámetros adecuados para evitar exclusiones.

Salesforce también incluye advertencias en sus modelos generativos que incorporan códigos postales, ya que estos pueden estar correlacionados con razas específicas o estatus socioeconómicos. El objetivo es detectar posibles sesgos y animar a los humanos a revisar los datos más de cerca. Históricamente, los sesgos y las infracciones de derechos de autor han planteado preocupaciones sobre la confianza en la IA. Por ejemplo, un estudio del MIT Media Lab mostró que el software de IA tenía una tasa de error del 35% al identificar mujeres de piel oscura, incluyendo figuras prominentes como Oprah Winfrey y Michelle Obama. Los sesgos en la tecnología de reconocimiento facial comprometen tareas críticas como equipar drones o cámaras corporales con software de reconocimiento facial para operaciones letales. Además, los sesgos algorítmicos en las bases de datos de atención médica pueden llevar a la sugerencia de planes de tratamiento inapropiados para ciertos pacientes, como descubrió la Facultad de Medicina de Yale. Incluso en industrias donde no se ponen en juego vidas humanas, las aplicaciones de IA han provocado preocupaciones éticas. Por ejemplo, OpenAI recopiló contenido generado por los usuarios de YouTube, potencialmente infringiendo los derechos de autor de los creadores sin su consentimiento. Además, la propagación de desinformación por parte de la IA y las limitaciones para completar tareas básicas indican que todavía tiene un largo camino por recorrer antes de que pueda realizar su potencial como una herramienta útil para los humanos. A pesar de estos desafíos, Goldman encuentra esperanza en el diseño de características de IA más inteligentes y en la implementación de salvaguardias lideradas por humanos para mejorar la confianza en la industria. El enfoque principal radica en desarrollar productos en los que los usuarios puedan confiar, al tiempo que se reconocen situaciones en las que se debe aplicar y dar una segunda mirada al juicio humano.