Недавно су платформе као што су TikTok и Instagram доживеле значајан пораст видео материјала које генерише вештачка интелигенција. Корисници на овим друштвеним мрежама све више користе алате засноване на вештачкој интелигенцији за креирање садржаја који је јединствен и веома заинтересујући. Овај пораст креативног изражавања укључује разне формате, као што су музички композиције настале у сарадњи са вештачком интелигенцијом, дигитална уметничка дела и напредни дeepfake видео снимци са познатим личностима и јавним фигурама. Увођење вештачке интелигенције у креирање садржаја суштински мења начин на који корисници комуницирају са медијима. Способност AI да прилагођава садржај личним укусима и отвара нове креативне могућности пружа корисницима више персонализовано и иммерзивно искуство. Ови алати омогућавају прилагођавање које пре раније није било могуће, што ауторима даје могућност да истражују нове формате и концепте који спајају технологију и уметност на невиђене начине. На TikTok-у, где доминирају кратки видеозаписи, садржај генерисан од стране AI постаје популаран због своје новине и лакоће дељења и откривања преко алгоритамских фида. Истовремено, Instagram, познат по визуелном приповедању, бележи раст коришћења AI-а за унапређење фотографија и видео снимака, стварајући привлачан садржај који усмерава пажњу публике. Међутим, појава садржаја који се генерише вештачком интелигенцијом доводи и до значајних забринутостава, пре свега о аутентичности. Пошто AI може производити изузетно реалистичне слике и видео записе, све је теже за обичне кориснике да разликују оригинални садржај од оног са манипулативним елементима.

Технологија дееpfаке-а посебно забрињава, јер може убедљиво приказати јавне личности како кажу или раде нешто што нису, потенцијално доводећи до обмане гледалаца и утицаја на јавнополитичко мишљење. Такође, ризик ширења дезинформација кроз садржај направљен помоћу AI-а представља озбиљан изазов за друштвене мреже и целокупно друштво. Деликасан баланс између креативне употребе AI-а и опасних злоупотреба чини неопходним да платформе уводе ефикасне регулативе. У ту сврху, TikTok и Instagram размишљају о мерама верификације како би потврдиле аутентичност садржаја, са намером да заштите кориснике од преваре и одрже поверење у окружење у којем се дели и конзумира садржај. Главни изазов остаје балансирање између подршке креативној слободи коју пружају алати засновани на AI-у и спречавања ширења штетних лажи. Платформе треба да развијају свеобухватне стратегије, укључујући едукацију корисника о садржају направљеном помоћу AI-а, транспарентност у коришћењу ових алата и примену технолошких решења као што су алгоритми за детекцију синтетичких медија. Како се технологија вештачке интелигенције наставља развијати и све више се интегрисати у процес креирања садржаја, сарадња између програмера, платформи, политичара и корисника постаје од кључне важности за решавање етичких и практичних проблема. Начин на који се друштво прилагођава овим технолошким променама одредиће будућност дигиталних медија, утичући не само на креирање садржаја, већ и на шире друштвене динамике делjenja и конзумирања информација. Укратко, раст позадине видео садржаја који се генерише вештачком интелигенцијом на TikTok-у и Instagram-у означава и узбудљиво ново поглавље у креативном изражавању и сложен изазов у одржавању аутентичности и поверења. Друштвене мреже налазе се на кључном раскршћу где увођење садржаја заснованог на AI-у захтева иновативне приступе како би заштитиле интегритет корисника и створиле позитивно дигитално окружење.