TikTok annoncerede torsdag morgen på "GMA", at de nu automatisk vil mærke AI-genereret indhold, når det uploades fra visse platforme. Adam Presser, TikToks Head of Operations & Trust and Safety, udtrykte spænding hos deres brugere og skabere vedrørende AI's indflydelse på kreativitet og publikumsengagement. Dog understregede de også vigtigheden af at skelne mellem fakta og fiktion. TikTok er blevet den første video-deling platform, der implementerer teknologien Content Credentials, som giver udgivere, skabere og forbrugere mulighed for at spore oprindelsen af forskellige typer medier. Adobe's Chief Trust Officer, Dana Rao, sammenlignede denne teknologi med en ernæringsmærkning for indhold, der giver information om billedet, dets kilde, redigeringer og mere. Adobe er et stiftende medlem af Coalition for Content Provenance and Authenticity, som arbejder for udbredelsen af denne digitale standard. Content Credentials, også kendt som digitale ernæringsmærker, vinder frem som en standard til certificering af digitalt indhold. OpenAI annoncerede for nylig integrationen af denne teknologi i alle billeder skabt og redigeret af deres nyeste billedmodel, DALL. E 3, med planer om at udvide det til deres videogenerative model, Sora. Andre softwareprodukter som Adobe Firefly, Photoshop, Express og Microsoft Copilot udnytter allerede denne teknologi til at indlejre metadata i visuelt indhold genereret gennem deres platforme. TikTok sigter mod at øge gennemsigtigheden vedrørende AI ved at implementere disse Content Credentials-mærker.

Udrulningen af denne funktion begynder i dag og vil gradvist blive anvendt på alle brugere globalt i de kommende uger. Derudover planlægger TikTok at knytte Content Credentials til downloadbart indhold for at sikre, at metadata forbliver tilgængeligt på tværs af andre platforme. Da kravene om identifikation af AI-genereret indhold bliver større, betragtes implementeringen af Content Credentials som et skridt mod skadesreduktion snarere end en komplet løsning. Sam Gregory, ekspert inden for deepfakes, fremhæver vigtigheden af, at virksomheder gør det let at genkende indhold, der er lavet med deres værktøjer, ved at give værktøjsspecifikke klassificeringer. Selvom ondsindede skabere måske finder måder at omgå disse mærker på, vil de fleste brugere sætte pris på den øgede gennemsigtighed uden at gå på kompromis med privatliv eller kreative evner. Adobes Dana Rao mener, at en online verden, hvor indhold har digitale ernæringsmærker, vil resultere i større troværdighed og værdi på sigt. Ved at lade skabere etablere autenticitetsniveauer muliggør denne teknologi en mere ægte kommunikation mellem skabere og deres publikum. I takt med at præsidentvalget i USA nærmer sig, og valg afholdes verden over, bliver behovet for at opdage AI-genereret indhold på nettet stadig mere afgørende.