OpenAI, skaberen af ChatGPT og andre AI-værktøjer, har afsløret, at de overvejer at tillade brugere at generere AI-genereret pornografi og eksplicit indhold på en ansvarlig måde. Mens OpenAI i øjeblikket forbyder seksuelt eksplicit eller suggestivt indhold, gennemgår de nu deres strenge politik. Virksomheden ønsker at iværksætte en dialog om, hvorvidt erotisk tekst og nøgenbilleder altid bør være forbudt i deres AI-produkter. Dog understreger OpenAI, at muliggørelsen af deepfake-teknologi absolut er udelukket.

Diskussionen kommer i kølvandet på bekymringer over misbrug af avanceret AI til at skabe deepfake-pornografi og den stigende popularitet af apps, der "afklæder" billeder af mennesker. OpenAI erkender de potentielle risici og har til hensigt at fortsætte forsigtigt, hvis der foretages ændringer af deres politik om ikke-sikkert-for-arbejde (NSFW), for at sikre overholdelse af loven og respekt for andres rettigheder. Målet er at give brugerne mere kontrol, samtidig med at misbrug undgås og en sikker miljø opretholdes.