Искусственный интеллект (ИИ) увеличивает угрозу дезинформации на выборах во всем мире. Благодаря наличию бесплатных и недорогих сервисов с генеративным ИИ, любой человек смартфоном может создать убедительные "дипфейки", нацеленные на обман избирателей. Технология эта быстро развивается в последние годы, требуя все меньше ресурсов и технических навыков для создания фальшивого контента. ИИ-дипфейки уже наблюдались на выборах в Европе и Азии, возникают опасения относительно их влияния на доверие и демократические процессы. Они могут использоваться для клеветы или манипуляции образами кандидатов, направлять избирателей к определенным кандидатам или отводить от них, а также разрушать доверие общественности к информации. Определение происхождения ИИ-дипфейков представляет трудность, поскольку правительства и компании в настоящее время не в состоянии эффективно предотвратить или решить эту проблему.

Власти всего мира пытаются установить правила для смягчения рисков ИИ-дипфейков, но прогресс идет медленно. Европейский союз обязал ввести специальную маркировку дипфейков начиная со следующего года, в то время как некоторые технологические компании пообещали добровольно предотвращать использование ИИ-инструментов для нарушения выборов. Однако избегание непреднамеренных последствий регулирования дипфейков представляет сложности, поскольку легитимный политический комментарий может быть ошибочно воспринят как дезинформация. Увеличение использования ИИ вызывает дополнительные опасения, поскольку с помощью чат-ботов, работающих на ИИ, часто дается ложная или вводящая в заблуждение информация, что может привести к лишению избирательных прав избирателей. Кроме того, кандидаты могут пытаться обмануть избирателей, утверждая, что реальные события были созданы с помощью ИИ. В общем, рост ИИ-дипфейков угрожает доверию и демократии на выборах по всему миру.