TikTok a connu un incident lorsqu'ils ont accidentellement partagé un lien vers une version interne de leur nouvel outil d'avatar numérique IA sans les précautions nécessaires. Cela a permis aux utilisateurs de créer des vidéos pouvant contenir presque n'importe quel contenu. CNN a été le premier à remarquer ce problème et l'a utilisé pour générer des vidéos présentant des citations d'Hitler ainsi qu'un message encourageant la consommation d'eau de Javel, accompagné d'autres phrases préoccupantes. TikTok a depuis supprimé cette version non intentionnelle de l'outil, tandis que la version originale prévue reste accessible. Récemment lancés, les avatars numériques Symphony de TikTok permettent aux entreprises de créer des publicités en utilisant l'apparence de comédiens rémunérés.

L'outil intègre également un doublage alimenté par l'IA, ce qui permet aux annonceurs de saisir un script pour que les avatars le prononcent conformément aux directives de TikTok. Bien que, au départ, l'accès n'était réservé qu'aux utilisateurs disposant d'un compte TikTok Ads Manager, la version découverte par CNN permettait à n'importe quel utilisateur possédant un compte personnel de l'essayer. Selon les déclarations de la porte-parole de TikTok, Laura Perez, à The Verge, la plateforme a résolu l'"erreur technique" qui a permis à un nombre très limité d'utilisateurs de créer du contenu à l'aide d'une version de test interne de l'outil, et ce, pendant quelques jours seulement. Après avoir découvert l'outil interne, CNN a produit des vidéos présentant la "Lettre à l'Amérique" d'Osama bin Laden, un slogan de suprématie blanche et une vidéo incitant les gens à voter le mauvais jour. Il est important de noter que aucune des vidéos créées par CNN n'était marquée d'un filigrane indiquant qu'elles étaient générées par IA. Cette distinction est présente dans la version correcte des avatars numériques Symphony de TikTok.