एआई में नवीनतम प्रगतियों के कारण, इसे कार्यस्थल में एकीकरण के लिए नैतिक दिशा निर्धारण और सुरक्षा मार्गनिर्माण की आवश्यकता होती है। सेल्सफोर्स में मुख्य नैतिक और मानवीय उपयोग अधिकारी पौला गोल्डमैन ने फोर्च्यून के ब्रेनस्टोर्म एआई सम्मेलन में लंदन में एआई को मानवों के साथ एक सहायक पायलट की भूमिका निभाने की महत्वाकांक्षा को जोर दिया। गोल्डमैन ने एआई प्रणाली के कार्यप्रणाली को समझने की क्षमता और अगले स्तर के नियंत्रण की आवश्यकता को व्यक्त किया। उन्होंने एआई उत्पादों को डिजाइन करने की महत्वाकांक्षा दिया जो एआई की कमजोरियों के साथ-साथ मानव निर्णय-निर्माण की कमजोरियों को भी ध्यान में रखते हैं। गोल्डमैन की एक समस्या इससे संबंधित है कि एआई द्वारा नैतिक सामग्री की उत्पत्ति होनी चाहिए, ताकि वह भावविशेषों और गहरी नकल जैसे उपयोगकर्ता द्वारा बनाई गई सामग्री से हानि पहुंचाने वाली पक्षपातों से मुक्त हो। उनकी मान्यता है कि एआई का अनैतिक उपयोग इसके वित्तीय आरंभ और विकास को रोक सकता है, संभवतः विश्वास या उपयोगकर्ता स्वीकृति समस्याओं में आगे-पीछे जाने का कारण बनाता है, जिससे "एआई शीतकाल" हो सकता है। गोल्डमैन ने कहा कि कार्यस्थल में एआई के भविष्य के उत्पादकता लाभ मुख्य रूप से प्रशिक्षण और लोगों की तत्परता पर निर्भर करेगी। एआई उत्पादों में विश्वास को स्थापित करने के लिए, विशेषकर कर्मचारियों के बीच, गोल्डमैन ने "विचारशील संघर्ष" का अमल करने का प्रस्ताव रखा है। यह विचार संपूर्ण लाभ पहुंचाने वाला नियंत्रण और संतुलन को सम्मिलित करने की महत्वाकांक्षा रखता है जो यह सुनिश्चित करता है कि कार्यस्थल में एआई उपकरण नुकसान से अधिक लाभ दे। सेल्सफोर्स ने पहले से ही "विचारशील संघर्ष" इस विचार को लागू करने के लिए कदम उठाए हैं। उन्होंने एक विपणन वर्गीकरण उत्पाद विकसित किया है जो ईमेल प्रचार के लिए उपयुक्त जनसांख्यिकी उत्पन्न करता है। जबकि एआई कार्यक्रम संभावित जनसांख्यिकी प्रदान करता है, मानव की जिम्मेदारी होती है कि वह उचित पैरामीटर चुने ताकि निर्वासित करने से बचा जा सके। सेल्सफोर्स अपनी उत्पादक रूपरेखा में चेतावनी सूचकांक भी शामिल करता है जो ज़िप कोड को सम्पादित करते हैं, क्योंकि यह विशेष रूप से निशा या सामाजिक-आर्थिक स्थिति के साथ संबद्ध हो सकता है। इसे पहचानने का उद्देश्य ऐसे संभावित पक्षपातों को खोजना है और मानवों को डेटा की अधिक संकल्पित जांच करने के लिए प्रोत्साहित करना है। ऐतिहासिक रूप से, ऐआई में पक्षपातों और कॉपीराइट उल्लंघनों की वजह से भरोसे पर चिंताएं उठी हैं। उदाहरण के लिए, MIT मीडिया लैब से एक अध्ययन ने दिखाया कि ऐआई सॉफ़्टवेयर को काले रंग की महिलाओं की पहचान में 35% त्रुटि दर थी, जिसमें ऑप्रा विंफ्री और मिशेल ओबामा जैसे प्रमुख व्यक्तियों को भी शामिल था। चेहरे की पहचान तकनीक में पक्षपात काफी महत्वपूर्ण कार्यों को कमजोर करता है, जैसे कि हत्याशी आपरेशन के लिए ड्रोन या बॉडी कैमरों को चेहरे की पहचान सॉफ़्टवेयर से सुसज्जित करना। इसके अलावा, स्वास्थ्य डेटाबेस में एल्गोरिदमिक पक्षपात के कारण कुछ मरीज़ों के लिए अनुपयुक्त उपचार योजनाएं सुझाई जा सकती हैं, जैसा कि येल विश्वविद्यालय चिकित्सा विद्यालय ने खोजा है। जिन उद्योगों में जीवन संवेदी न बनाने वाले काम होते हैं, वहाँ भी, ऐआई के अनुप्रयोग नैतिक चिंताओं का कारण बन सकते हैं। उदाहरण के लिए, OpenAI ने उपयोगकर्ता सृजित YouTube सामग्री का उपयोग किया है, जो निर्माताओं की सहमति के बिना कॉपीराइट के उल्लंघन को बढ़ा सकता है। इसके अलावा, एआई काम को मिटाने और मूलभूत कार्यों को पूरा करने की लिमिटेशन उजागर करते हैं, जिससे पूरी तरह से मानवों के लिए एक मददगार उपकरण के रूप में इसकी सामर्थ्य को रखने से पहले इसमें आगे और काम है। इन चुनौतियों के बावजूद, गोल्डमैन आशा करती हैं कि अधिक बुद्धिमान एआई सुविधाओं के डिज़ाइन करने और मानवों द्वारा आधिकारिक पदार्थ संरक्षण के प्रशासन के द्वारा विश्वास को प्रोत्साहित करने में उम्मीद है। मुख्य ध्यान उन उत्पादों के विकास पर होना चाहिए जिन पर उपयोगकर्ता भरोसा कर सकते हैं, साथ ही मानव निर्णय को लागू और दुसरी नज़र में देना होगा।