Tillgängligheten av AI-verktyg som ChatGPT och liknande alternativ innebär en potentiell risk att sprida politiskt motiverad desinformation på sociala medieplattformar till en oöverträffad omfattning. Denna utsikt är särskilt oroande i en era präglad av djupt splittrad politik och en ökande skepsis mot onlineinnehåll. Inför de kommande valcyklerna är rollen för AI i att påverka deras resultat fortfarande osäker, trots diskussioner med över 30 politiker, beslutsfattare, tekniska verkställande och experter från olika länder. Även om de senaste AI-verktygen kan ha anmärkningsvärda förmågor kan majoriteten av deepfakes, inklusive de som kommer från Ryssland och Kina för globala påverkanskampanjer, fortfarande enkelt och snabbt avslöjas.

Dessutom är politiska övertygelser ofta djupt rotade, vilket leder experter att varna för att AI-genererat innehåll inte kommer att förändra väljarnas partitillhörighet, oavsett hur övertygande fabricerade foton, videor eller ljudklipp kan verka. Under senaste valen, inklusive de i länder som Pakistan och Indonesien där generativ AI har använts flitigt, finns det lite eller ingen evidens som antyder att tekniken orättvist påverkade resultatet till förmån för specifika politiker. Med tanke på den enorma volymen dagliga sociala medieinlägg världen över är förmågan för AI-drivena felaktigheter, även sofistikerade sådana som de skapade av Hood, att vinna signifikant genomslag fortfarande en tuff kamp. Offentliga personer, tekniska verkställande och oberoende grupper för övervakning av val uppmanar offentligt till försiktighet vid hantering av en snabbt utvecklande teknik som överskrider befintliga kontrollåtgärder. Men för många är effekterna av AI-genererad desinformation under årets globala valcykel fortfarande mest teoretiska än belagda med konkreta bevis. I diskussionen om effekterna av AI-drivna felaktigheter vid val världen över 2024 erkände Nick Clegg, president för globala frågor vid Meta, att trenderna kan skifta dramatiskt men noterade att det hittills inte har funnits tydliga indikationer på stora störningar.