Гиганты искусственного интеллекта сталкиваются с вызовом обеспечить, чтобы модели искусственного интеллекта отражали многообразие мира, не становясь чрезмерно политкорректными. Существует опасение, что искусственный интеллект, основанный на потенциально предвзятой информации, подвержен риску автоматизации дискриминации. Качество принятия решений искусственного интеллекта зависит от получаемого входного материала, который может содержать как полезный, так и предубежденный контент. Это опасно, поскольку люди все больше полагаются на программное обеспечение искусственного интеллекта. Предвзятость в искусственном интеллекте может быть усилина предвзятостью в человеческой культуре. Обеспечение отражения разнообразия людей в искусственном интеллекте - это не только политический выбор, но и важно для предотвращения дискриминации в приложениях искусственного интеллекта, таких как распознавание лиц.

Однако существует тонкая грань между адекватным отражением разнообразия и чрезмерной политкорректностью, как это было видно, когда генератор изображений Google создал изображение немецких солдат времен Второй мировой войны, включая людей разных рас. Технологические решения для преодоления предубежденности ограничены, так как генеративные модели искусственного интеллекта не могут рассуждать о предубеждениях или принимать меры по их устранению. Ответственность за обеспечение соответствующего и непредвзятого вывода искусственного интеллекта в настоящее время лежит на людях. Ведутся работы по преодолению предубежденности в моделях искусственного интеллекта, но это сложная задача, учитывая быстрый темп внедрения новых моделей. Исследуются методы, такие как алгоритмическое излечение и тонкая настройка, но их эффективность неясна. Некоторые считают, что предвзятость присуща как людям, так и искусственному интеллекту и не может быть полностью искоренена.