OpenAI, ChatGPT ve diğer yapay zeka araçlarının yaratıcısı, sorumlu bir şekilde yapay zeka ile üretilmiş pornografi ve açık içerik oluşturmasına izin vermeyi düşündüğünü açıkladı. Şu anda OpenAI, cinsel içerik veya çağrışımlı içeriğin kullanımını yasaklamaktadır, ancak sıkı politikasını yeniden gözden geçirmektedir. Şirket, AI ürünlerinde erotik metinler ve çıplak görüntülerin her zaman yasaklanması gerekip gerekmediği konusunda bir diyalog başlatmak istiyor. Bununla birlikte, OpenAI derin sahtecilik teknolojisinin kullanımına kesinlikle karşı olduğunu vurgulamaktadır.

Bu tartışma, gelişmiş yapay zekanın derin sahte pornografi oluşturmak için kötüye kullanımı endişeleri ve insanların resimlerini "çıplaklaştıran" uygulamaların giderek popülerleşmesiyle birlikte ortaya çıkmaktadır. OpenAI, potansiyel riskleri kabul etmekte ve NSFW (işyeri için uygun olmayan) politikasında herhangi bir değişiklik yapılırsa dikkatli bir şekilde ilerlemeyi amaçlamaktadır, yasalara uyumu ve diğerlerinin haklarına saygıyı sağlayarak. Hedef, kullanıcılara daha fazla kontrol imkanı tanımak, kötüye kullanımı önlemek ve güvenli bir ortamı sürdürmektir.