Стремительное развитие искусственного интеллекта требует установления ограничений и разработки этической философии в отношении его интеграции в рабочую среду. Паула Голдман, главный служащий по этике и человечному использованию в Salesforce, подчеркнула важность того, чтобы искусственный интеллект играл роль пилота, работающего совместно с людьми, а не функционировал на автопилоте, во время конференции Brainstorm AI, организованной журналом Fortune в Лондоне. Голдман выразила потребность в контроле следующего уровня и способности людей понимать принципы работы системы искусственного интеллекта. Она подчеркнула важность создания продуктов искусственного интеллекта, учитывающих как его сильные, так и слабые стороны, а также сильные и слабые стороны принятия решений человеком. Одна из проблем, о которой говорит Голдман, связана с созданием этического контента с помощью искусственного интеллекта, обеспечивающего его свободу от предвзятости и чрезмерно создаваемого пользователем материала, такого как deepfake, который может причинить вред людям. Она считает, что этическое использование искусственного интеллекта может препятствовать его финансированию и развитию, что потенциально может привести к потере доверия или проблемам внедрения у пользователей, вызвав "зиму искусственного интеллекта". Голдман заявила, что будущие преимущества искусственного интеллекта в сфере работы будут зависеть в значительной степени от обучения и готовности людей принимать новые технологии. Чтобы внушить доверие к продуктам искусственного интеллекта, особенно среди сотрудников, Голдман предлагает внедрение "осознанного сопротивления". Эта концепция предполагает включение проверок и балансов, которые обеспечивают, что инструменты искусственного интеллекта на рабочем месте приносят больше пользы, чем вреда. Salesforce уже предприняла шаги для реализации этой идеи "осознанного сопротивления". Они разработали продукт маркетинговой сегментации, который генерирует соответствующую демографическую информацию для электронных кампаний. В то время как программное обеспечение искусственного интеллекта предоставляет потенциальные демографические данные, ответственность за выбор подходящих параметров лежит на человеке, чтобы избежать исключительности.

Salesforce также включает предупреждающие оповещения в свои генеративные модели, которые учитывают почтовые индексы, поскольку они могут быть связаны с определенными расами или социально-экономическим положением. Цель заключается в выявлении потенциальных предвзятостей и стимулировании более тщательного рассмотрения данных человеком. Исторически, предвзятость и нарушения авторских прав вызывали опасения относительно доверия к искусственному интеллекту. Например, исследование из MIT Media Lab показало, что программное обеспечение искусственного интеллекта имело 35% ошибок в идентификации женщин с темным цветом кожи, включая такие известные личности, как Опра Уинфри и Мишель Обама. Предвзятость в технологиях распознавания лиц вредит важным задачам, таким как оснащение беспилотных летательных аппаратов или камер для тела с программным обеспечением распознавания лиц для использования в опасных операциях. Кроме того, алгоритмические предрассудки в базах данных здравоохранения могут привести к предложению неуместных планов лечения для определенных пациентов, как выяснилось в Йельской медицинской школе. Даже в отраслях, где не на кону ставятся чьи-то жизни, применение искусственного интеллекта вызывает этические опасения. Например, OpenAI собирал информацию, создаваемую пользователями на YouTube, что потенциально нарушало авторские права создателей без их согласия. Кроме того, распространение дезинформации и ограничения искусственного интеллекта в заполнении базовых задач указывают на то, что ему предстоит пройти еще долгий путь, прежде чем полностью реализовать свой потенциал как полезного инструмента для людей. Несмотря на эти трудности, Голдман находит надежду в разработке более интеллектуальных функций искусственного интеллекта и внедрении механизмов защиты, которые осуществляют люди, чтобы повысить доверие в отрасли. Основное внимание следует уделять разработке продуктов, которым пользователи могут доверять, признавая при этом ситуации, в которых следует применять суждение человека и придавать ему большее значение.