Yapay zeka alanındaki hızlı ilerlemeler, iş yerine entegrasyonuyla ilgili etik felsefenin geliştirmesini ve güvenlik tedbirlerinin alınmasını gerektirmektedir. Salesforce'teki baş etik ve insancıl kullanım sorumlusu Paula Goldman, Londra'da düzenlenen Fortune'un Brainstorm AI konferansında yapay zekanın otomatik pilot yerine insanlarla birlikte bir ortak pilot rolünü üstlenmesinin önemini vurguladı. Goldman, yeni düzey kontrol mekanizmalarının ve bireylerin yapay zeka sisteminin işleyişini anlama yeteneğinin önemini ifade etti. Ayrıca, hem yapay zekanın güçlü ve zayıf yönlerini hem de insan karar verme sürecinin güçlü ve zayıf yönlerini dikkate alan yapay zeka ürünlerinin tasarlanmasının önemini vurguladı. Goldman'ın kaygılarından biri, yapay zeka tarafından üretilen etik içeriğin önyargılardan ve insanları zararlı etkileyebilecek deepfake gibi aşırı kullanıcı içeriğinden arındırılmasıdır. Goldman'e göre, yapay zekanın etik dışı kullanımı, finansman ve gelişimini engelleyebilir ve güven kaybına veya kullanıcı benimsemesi sorunlarına yol açarak "bir yapay zeka kışı"na neden olabilir. Goldman, iş yerinde yapay zekanın gelecekteki verimlilik artışlarının eğitime ve insanların yeni teknolojileri benimseme isteğine bağlı olacağını belirtti. Özellikle çalışanlar arasında yapay zeka ürünlerine güven oluşturabilmek için Goldman, "düşünceli sürtünme"nin hayata geçirilmesini önermektedir. Bu kavram, iş yerindeki yapay zeka araçlarının zarardan çok daha fazla fayda sağladığından emin olmayı sağlayan denetim mekanizmalarının eklenmesini içermektedir. Salesforce, "düşünceli sürtünme" fikrini uygulamak için zaten adımlar atmıştır. Örneğin, e-posta kampanyaları için uygun demografik verileri oluşturan bir pazarlama segmentasyon ürünü geliştirdiler. Yapay zeka programı potansiyel demografik verileri sağlarken, insanın uygun parametreleri seçme sorumluluğu vardır ve dışlama durumlarının önüne geçmek için dikkatli olmanız gerekir.

Salesforce, ayrıca zip kodlarını içeren üretken modellerine uyarı mesajlarını dahil etmektedir, çünkü bu kodlar belirli ırklar veya sosyo-ekonomik durumlarla ilişkilendirilebilir. Amaç, potansiyel önyargıları tespit etmek ve insanları verileri daha dikkatli bir şekilde gözden geçirmeye teşvik etmektir. Geçmişte, önyargılar ve telif hakkı ihlalleri, yapay zekaya olan güvenle ilgili endişelere neden olmuştur. Örneğin, MIT Medya Laboratuvarı'ndan bir araştırma, yapay zeka yazılımının, Oprah Winfrey ve Michelle Obama gibi tanınmış kadınları tanımlamada %35 hata oranına sahip olduğunu göstermiştir. Yüz tanıma teknolojisindeki önyargılar, drone'lara veya vücut kameralarına ölümcül operasyonlar için yüz tanıma yazılımı donatma gibi önemli görevleri etkiler. Ayrıca, sağlık veritabanlarındaki algoritmik önyargılar, Yale Tıp Fakültesi tarafından keşfedilen gibi belirli hastalar için uygunsuz tedavi planlarının önerilmesine yol açabilir. Hayatların tehlikede olmadığı endüstrilerde bile, yapay zeka uygulamaları etik endişelere neden olmuştur. Örneğin, OpenAI, kullanıcıların izni olmaksızın yaratıcıların telif haklarına potansiyel olarak tecavüz ederek kullanıcı tarafından oluşturulan YouTube içeriğini toplamıştır. Ayrıca, yapay zekanın yanlış bilgi yayılması ve temel görevleri tamamlama konusundaki sınırlamaları, insanlar için yardımcı bir araç olarak tam potansiyelini gerçekleştirmek için daha uzun bir yol alması gerektiğini göstermektedir. Bu zorluklara rağmen, Goldman, insanların liderliğinde daha zeki yapay zeka özellikleri tasarlamak ve önlemler uygulamak suretiyle güveni artırmak konusunda umut bulmaktadır. Ana odak noktası, kullanıcıların güven duyabileceği ürünler geliştirmek ve insan değerlendirmesinin uygulanması gereken durumları tanımaktır.