Les modèles d'IA apparaissent de plus en plus sur des plateformes de contenu pour adultes comme OnlyFans et Fanvue, parfois en utilisant des images volées. De plus, des cours sont vendus jusqu'à 220 dollars, enseignant aux gens comment créer leurs propres créateurs adultes IA rentables. L'IA menace-t-elle les créateurs de contenu adulte humains ?Et les abonnés sont-ils conscients qu'ils interagissent avec des IA ? L'hiver dernier, des histoires évoquaient le potentiel de l'IA à remplacer les humains en tant qu'influenceurs en ligne. Ces articles soulignaient que certains nouveaux influenceurs Instagram avaient attiré de nombreux abonnés et même obtenu des contrats avec des marques, mais qu'en réalité, ces influenceurs étaient des IA. Certaines influenceuses IA, comme Lil Miquela, servent de commentaires artistiques ou offrent une intrigue conceptuelle. Cependant, en enquêtant sur une influenceuse IA signalée pour avoir obtenu des contrats avec des marques, une autre histoire est apparue. Une influenceuse IA de premier plan avait un profil Fanvue lié dans sa bio Instagram, concurrente de OnlyFans. Sur Fanvue, elle postait des photos provocantes, et je pouvais accéder à ses images nues pour un abonnement mensuel de 7 dollars. Cela semble étrange de la désigner par "elle" et "nue" puisqu'elle n'existe pas : c'est une IA. Voici où nous en sommes en 2024. Le véritable business, semble-t-il, a toujours été la pornographie, avec Instagram et les médias sociaux agissant comme des passerelles pour diriger le trafic vers Fanvue, incitant à souscrire pour voir des photos nues. Une fois sur ces plateformes payantes, les utilisateurs découvrent plus de contenu généré par l'IA. 404 Media, un site d'information technologique, a récemment exploré cette industrie émergente du "proxénétisme IA", révélant de nombreux comptes dirigés par l'IA sur OnlyFans et Fanvue.

De manière inquiétante, certains comptes proposaient des images qui n'étaient pas entièrement créées par l'IA mais des deepfakes ou des échanges de visages, où de vrais visages étaient placés sur des corps générés par l'IA. Simultanément, il existe une économie où des gens vendent des guides et des cours pour démarrer des affaires de modèles IA. Un tel cours coûte 220 dollars et enseigne comment gagner de l'argent avec des influenceurs adultes IA. Un porte-parole de Fanvue a informé Business Insider que la plateforme interdit l'utilisation d'images qui volent l'identité de quelqu'un. Fanvue utilise une modération tierce avec des modérateurs humains et reconnaît les "deepfakes comme un défi de l'industrie". Les conditions d'utilisation d'OnlyFans interdisent aux modèles d'utiliser des chatbots IA, autorisant le contenu d'IA uniquement si les utilisateurs sont conscients qu'il s'agit d'IA et seulement s'il présente le créateur vérifié, pas d'autres personnes. L'existence de contenu adulte IA soulève des problèmes au-delà des images volées. Bien que certains comparent le travail des créateurs IA à la pornographie dessinée, les créateurs adultes réels expriment des inquiétudes quant à l'impact de l'IA sur leur activité. Certains créateurs trouvent les outils IA utiles, comme les chatbots IA pour interagir avec les fans, mais craignent également de diminuer la confiance des fans. On ne sait pas si les fans des comptes d'IA réalisent que ces "personnages" sont des IA. Les commentaires sur des profils manifestement générés par IA suggèrent que beaucoup croient qu'ils sont humains. Sur Fanvue, une femme générée par IA partage parfois des versions animées d'elle-même. En réponse à l'un de ces posts, un utilisateur payant a exprimé le désir de voir la tenue sur la "réelle" femme, apparemment inconscient qu'aucune des deux versions n'est réelle.