De snabba framstegen inom AI gör det nödvändigt att etablera skyddsräcken och utveckla en etisk filosofi för dess integration på arbetsplatsen. Paula Goldman, chef för etik och humant användande på Salesforce, betonade vikten av att AI spelar rollen som medpilot tillsammans med människor istället för att fungera på autopilot under Fortune's Brainstorm AI-konferens i London. Goldman uttryckte behovet av nästa nivås kontroller och möjligheten för individer att förstå AI-systemets funktion. Hon underströk vikten av att designa AI-produkter som beaktar både AI:s styrkor och svagheter samt styrkor och svagheter inom mänskligt beslutsfattande. En av Goldmans oro gäller genereringen av etiskt innehåll av AI, vilket säkerställer att det är fritt från snedvridning och överdrivet användargenererat material som deepfakes som kan skada individer. Hon anser att oetisk användning av AI kan hindra dess finansiering och utveckling och potentiellt leda till förlorad förtroende eller användningsproblem som orsakar en "AI-vinter". Goldman hävdade att framtida produktivitetsvinster med AI på arbetsplatsen kommer starkt att förlita sig på utbildning och viljan bland människor att omfamna nya teknologier. För att ge förtroende för AI-produkter, särskilt bland anställda, föreslår Goldman att "medveten friktion" implementeras. Detta begrepp innebär att införliva kontroller som säkerställer att AI-verktyg på arbetsplatsen skapar fler fördelar än skada. Salesforce har redan vidtagit åtgärder för att implementera denna idé om "medveten friktion". De har utvecklat en produkt för marknadssegmentering som genererar lämpliga demografiska grupper för e-postkampanjer. Medan AI-programmet ger potentiella demografiska grupper är det människans ansvar att välja lämpliga parametrar för att undvika uteslutning.

Salesforce inkluderar också varningsmeddelanden i sina generativa modeller som inkluderar postnummer, eftersom dessa kan korreleras med specifika raser eller socioekonomiska statusar. Målet är att upptäcka sådana potentiella snedvridningar och uppmuntra människor att granska data noggrannare. Historiskt sett har snedvridningar och upphovsrättsintrång oroat för förtroende för AI. Till exempel visade en studie från MIT Media Lab att AI-programvara hade en felmarginal på 35% när det gällde att identifiera kvinnor med mörk hudfärg, inklusive framstående personer som Oprah Winfrey och Michelle Obama. Snedvridningar inom ansiktsigenkänningsteknologi komprometterar kritiska uppgifter som att utrusta drönare eller kroppskameror med ansiktsigenkänning för dödliga operationer. Dessutom kan algoritmiska snedvridningar i hälso- och sjukvårdsdatabaser leda till olämpliga behandlingsplaner för vissa patienter, vilket upptäckts av Yale School of Medicine. Även inom branscher där liv inte står på spel har AI-applikationer väckt etiska farhågor. OpenAI skrapade till exempel användargenererat YouTube-innehåll och potentiellt bröt mot upphovsrätterna för skaparna utan deras samtycke. Dessutom indikerar AI:s spridning av desinformation och dess begränsningar i att slutföra grundläggande uppgifter att det fortfarande har en lång väg att gå innan det fullt ut förverkligar sin potential som ett hjälpmedel för människor. Trots dessa utmaningar finner Goldman hopp i att designa mer intelligenta AI-funktioner och implementera skyddsåtgärder som leds av människor för att öka förtroendet inom branschen. Fokus ligger främst på att utveckla produkter som användare kan lita på samtidigt som man erkänner situationer där mänskligt omdöme borde tillämpas och få en andra titt.