OpenAI, создатель ChatGPT и других инструментов искусственного интеллекта, сообщил, что рассматривает возможность позволить пользователям создавать порнографический и откровенный контент с помощью искусственного интеллекта в ответственной манере. В настоящее время OpenAI запрещает сексуально явный или намекающий контент, но сейчас компания пересматривает свою строгую политику. Компания хочет инициировать диалог о том, всегда ли следует запрещать эротический текст и ню-изображения в ее продуктах, работающих на искусственном интеллекте. Однако OpenAI подчеркивает, что включение технологии дипфейка абсолютно исключено.

Обсуждение происходит на фоне опасений о злоупотреблении передовым искусственным интеллектом для создания порнографического контента с помощью дипфейка и растущей популярности приложений, "обнажающих" изображения людей. OpenAI признает потенциальные риски и намерена действовать осторожно, если внесутся изменения в ее политику относительно небезопасного контента (NSFW), обеспечивая соблюдение закона и уважение прав других. Цель заключается в предоставлении пользователям большего контроля, предотвращении злоупотреблений и поддержании безопасной среды.