La intel·ligència artificial (IA) està canviant ràpidament el panorama de les campanyes polítiques, generant preocupacions sobre el seu potencial per danyar la integritat electoral, especialment a través de la creació de deepfakes i desinformació. A mesura que s'acosta l'elecció presidencial dels EUA, els riscos associats amb les eines d'IA, que són cada cop més avançades i accessibles, estan sota un major escrutini. Un exemple notable d'això és un vídeo deepfake del president Joe Biden, que el presenta enganyosament com si instés a la gent a no votar. Aquest contingut enganyós amenaça amb erosionar la confiança pública en els processos democràtics, ja que els vídeos o àudios manipulats poden fabricar declaracions falses convincentment de figures públiques. Per contrarestar aquesta amenaça creixent, organitzacions com Full Fact utilitzen eines d'IA per verificar fets en temps real, analitzant discursos i manifestos. No obstant això, s'enfronten a desafiaments, especialment amb la ràpida difusió de deepfakes en les xarxes socials, que poden circular més ràpidament del que els verificadors de fets poden verificar. Mustafa Suleyman, cofundador de DeepMind, adverteix al seu llibre "The Coming Wave" que si la IA es manté sense control, podria pertorbar greument els sistemes democràtics. Demana regulacions més estrictes per evitar l'ús indegut de la IA per enganyar o manipular als votants, reflectint un consens acadèmic més ampli sobre la necessitat de control per evitar la desestabilització electoral global. Les enquestes indiquen que el públic és conscient dels perills potencials de la IA; una enquesta de YouGov va revelar que gairebé la meitat dels nord-americans estan preocupats pel fet que la IA pugui representar una amenaça per a la humanitat. Experts com Sean Brehm suggereixen centrar-se en un futur col·laboratiu entre humans i IA, en lloc d'un escenari de presa de control distòpic.

De la mateixa manera, Anahid Basiri de la Universitat de Glasgow compara les pors de la dominació de la IA amb les preocupacions passades pel que fa a Internet i els automòbils, emfasitzant la necessitat de balancejar els beneficis i els riscos de la innovació. ChatGPT ofereix una resposta matisada a la idea de "prendre el control" de la IA, afirmant que mentre la IA és competent en tasques especialitzades, no ha aconseguit la intel·ligència general artificial (AGI), que permetria a les màquines realitzar qualsevol tasca intel·lectual que un humà pugui. Les opinions varien sobre quan o si s'aconseguirà l'AGI, amb alguns experts especulant que podria ser a dècades de distància, mentre que altres dubten de la seva viabilitat. Les preocupacions al voltant de l'AGI inclouen les possibles aplicacions militars, l'automatització de llocs de treball i qüestions ètiques sobre l'alineació amb els valors humans. Organitzacions com OpenAI estan explorant mètodes per desenvolupar sistemes d'IA segurs a través de l'alineació de valors i governança. Mirant cap al futur, el curt termini suggereix millores significatives en les aplicacions d'IA dins de camps específics, mentre que a mitjà termini s'obre la possibilitat especulativa sobre l'emergència de l'AGI. Les prediccions a llarg termini romanen incertes, subratllant la necessitat d'una supervisió diligent per assegurar que el desenvolupament de la IA porti a resultats beneficiosos més que perjudicials. En conclusió, és poc probable que la IA "domini el món" aviat. Tot i que el desenvolupament de l'AGI podria conduir a riscos significatius, actualment estem lluny d'aquesta realitat. L'impacte futur de la IA es basarà principalment en els marcs ètics, la governança i les regulacions de seguretat establertes per la humanitat.