El tema en cuestión es significativo. Plaga Virtual: El auge de los modelos generados por IA Según 404 Media, los individuos detrás del concepto de "influencers virtuales" están superponiendo rostros falsos en los cuerpos de modelos reales y trabajadoras sexuales para engañar a otros en las redes sociales. Este preocupante desarrollo está ocurriendo dentro de la creciente industria de modelos generados por IA, que han ganado prominencia en plataformas como Instagram y TikTok. Muchas de estas cuentas promocionan suscripciones pagas a través de enlaces a competidores de OnlyFans. Sin duda, una tendencia lucrativa, una agencia española llamada The Clueless reveló en noviembre que su modelo de IA llamada Aitana, un personaje de IA de 25 años con cabello rosa de Barcelona, estaba generando hasta $11, 000 en ingresos mensuales. Cambio de Rostro: El dilema de los deepfakes Como destacó Futurism el año pasado, las publicaciones de algunos de estos influencers han atraído decenas de miles de comentarios y miles de likes. La situación se vuelve verdaderamente problemática cuando los creadores comienzan a utilizar la tecnología de deepfake para unir los rostros de los modelos generados por IA a los cuerpos de mujeres reales. 404 Media encontró recientemente una cuenta llamada "Adrianna Avellino" que subía contenido y videos completamente generados por IA de mujeres reales con el rostro del modelo de IA integrado sin problemas utilizando técnicas de deepfake. La metodología detrás de esta tecnología es relativamente conocida. 404 Media descubrió varios videos informativos que explican el proceso de superponer el rostro de un influencer de IA en imágenes reales.

Además, la popularidad de las aplicaciones de "intercambio de rostros" ha aumentado considerablemente, permitiendo a los usuarios crear deepfakes fácilmente utilizando solo sus teléfonos inteligentes. La Batalla de las Etiquetas Después de ser contactada por 404 Media y alertada sobre la presencia de modelos generados por IA de alto perfil con cientos de miles de seguidores en Instagram, Meta eliminó rápidamente sus cuentas. Meta ha indicado que tiene la intención de introducir etiquetas para el contenido generado por IA a partir del próximo mes, pero esta tarea será monumental dada la abrumadora cantidad de influencers de IA que inundan sus plataformas. Además, distinguir entre lo que es real y lo que es un deepfake, especialmente cuando se trata de mujeres reales, puede resultar en un desafío técnico significativo. En resumen, esta alarmante tendencia no solo distorsiona la realidad, sino que también permite a los creadores obtener ganancias directamente a partir de los esfuerzos de los influencers del mundo real. En consecuencia, se vuelve aún más imperativo que plataformas como Instagram exploren nuevas formas de combatir este problema. Para obtener más información sobre los influencers de IA, lee sobre el individuo que utiliza IA para hacerse pasar por una influyente voluptuosa.