A questão de imagens sintéticas geradas por IA compartilhadas em plataformas sociais sem rótulos adequados levantou preocupações entre pesquisadores de informação. Muitas dessas imagens estão circulando sem indicar que são geradas por IA, apesar do requisito da Meta para esse tipo de rotulagem. Essa falta de transparência tem levado os usuários, especialmente os mais idosos, a se enganarem com conteúdo falsificado. Além disso, descobriu-se que algumas páginas do Facebook que compartilham essas imagens de IA roubaram identidades de outras pessoas ou organizações. O motivo por trás dessas páginas de spam de IA é incerto, mas há especulações sobre possíveis operações fraudulentas.

O fenômeno de conteúdo gerado por IA tornou mais fácil para atores de spam e golpes criarem imagens visualmente sensacionais para atrair engajamento. Essas páginas frequentemente usam seguidores não autênticos e interagem com usuários reais, às vezes procurando informações pessoais ou vendendo produtos falsos. Usuários também relataram contas suspeitas que os contatam para fazer amizade e deixam comentários predefinidos em imagens geradas por IA. A presença cada vez maior dessas imagens de IA nas redes sociais levanta preocupações sobre possíveis golpes e destaca a necessidade de métodos melhores de detecção e rotulagem por plataformas como o Facebook.