تقدم التطورات السريعة في الذكاء الاصطناعي بضرورة وضع قوانين وتطوير فلسفة أخلاقية بشأن دمجه في مكان العمل. أكدت بولا جولدمان، مسؤولة الاستخدام الأخلاقي والإنساني الرئيسة في Salesforce، على أهمية أن يلعب الذكاء الاصطناعي دور مساعد مع البشر بدلاً من العمل بشكل تلقائي خلال مؤتمر Fortune's Brainstorm AI في لندن. أعربت جولدمان عن ضرورة توفر ضوابط متقدمة وقدرة الأفراد على فهم عمل نظام الذكاء الاصطناعي. وشددت على أهمية تصميم منتجات الذكاء الاصطناعي التي تأخذ في الاعتبار نقاط القوة والضعف للذكاء الاصطناعي، بالإضافة إلى نقاط القوة والضعف لعملية صنع القرار البشرية. واحدة من مخاوف جولدمان تتعلق بإنتاج محتوى أخلاقي من قبل الذكاء الاصطناعي، مع ضمان عدم وجود تحيزات ومواد تنشئها المستخدمين بشكل مفرط مثل الفيديوهات المزيفة التي قد تضر بأفراد معينين. وتعتقد أن الاستخدام غير الأخلاقي للذكاء الاصطناعي يمكن أن يعوق تمويله وتطويره، مما قد يؤدي في نهاية المطاف إلى فقدان الثقة أو مشاكل في تبنيه من قبل المستخدمين مما يسبب "شتاءً للذكاء الاصطناعي". وأكدت جولدمان أن الزيادات في إنتاجية الذكاء الاصطناعي في مكان العمل في المستقبل ستعتمد بشكل كبير على التدريب واستعداد الأشخاص لاستخدام التكنولوجيات الجديدة. ولإثبات الثقة في منتجات الذكاء الاصطناعي، خاصة بين الموظفين، تقترح جولدمان تنفيذ "الاحتكاك المتوازن". تتضمن هذه الفكرة دمج آليات فحص وتوازن تضمن أن أدوات الذكاء الاصطناعي في مكان العمل تجلب المزيد من الفوائد بدلاً من الضرر. لقد قامت Salesforce بالفعل باتخاذ خطوات لتنفيذ هذه فكرة "الاحتكاك المتوازن". وشركة Salesforce قد وضعت منتجًا لتوزيع التسويق يولد معايير سكانية مناسبة لحملات البريد الإلكتروني. بينما يوفر البرنامج الذكاء الاصطناعي سكانًا محتملين، فإنه يكمن في مسؤولية الإنسان اختيار المعايير المناسبة لتجنب الاستبعاد.

كما تشتمل منتجاتها القائمة على نماذج توليدية على تنبيهات تضم رموز البريد السريع، حيث يمكن أن تكون مرتبطة بسبب السباق أو الوضع الاجتماعي الاقتصادي. الهدف هو اكتشاف مثل هذه التحيزات المحتملة وتشجيع البشر على مراجعة البيانات عن كثب. تاريخياً، أثارت التحيزات وانتهاكات حقوق النشر مخاوف بشأن الثقة في الذكاء الاصطناعي. على سبيل المثال، أظهرت دراسة من MIT Media Lab أن برنامج الذكاء الاصطناعي كان لديه نسبة خطأ بنسبة 35٪ في تحديد النساء من بشرة سوداء، بما في ذلك شخصيات بارزة مثل أوبرا وينفري وميشيل أوباما. تعتبر التحيزات في تقنية التعرف على الوجه تهديدًا للمهام الحرجة مثل تجهيز الطائرات بدون طيار أو كاميرات الجسم ببرامج التعرف على الوجه لعمليات قاتلة. بالإضافة إلى ذلك، يمكن أن تؤدي التحيزات في قواعد بيانات الرعاية الصحية إلى تقديم خطط علاجية غير مناسبة لبعض المرضى، كما اكتشفت مدرسة الطب في جامعة ييل. حتى في الصناعات التي لا تتعلق بحياة الناس، أثارت تطبيقات الذكاء الاصطناعي مخاوف أخلاقية. على سبيل المثال، قام OpenAI بجمع محتوى يتولده المستخدمون على YouTube، مما ينتهك حقوق النشر للمبدعين دون موافقتهم. علاوة على ذلك، فإن انتشار الذكاء الاصطناعي للمعلومات غير الدقيقة وقدراته المحدودة في استكمال المهام الأساسية يشير إلى أن لديه طريقًا طويلًا لكي يحقق إمكاناته الكاملة كأداة مفيدة للبشر. على الرغم من هذه التحديات، ترى جولدمان الأمل في تصميم مزيد من الميزات الذكية للذكاء الاصطناعي وتنفيذ التدابير الوقائية التي يقودها البشر لتعزيز الثقة في الصناعة. التركيز الأساسي يكمن في تطوير منتجات يمكن للمستخدمين الوثوق بها مع الاعتراف بالحالات التي يجب فيها تطبيق الحكم البشري وإعطائه نظرة ثانية.