Недавние исследования ведущих моделей искусственного интеллекта (ИИ) выявили тревожную проблему: при запросах о вице-президенте Камале Гаррис и бывшем президенте Дональде Трампе эти системы давали вводящую в заблуждение информацию примерно в 30 процентах случаев. Это вызывает серьезные опасения по поводу надежности ИИ, особенно в критические периоды, такие как избирательные кампании, когда точность информации имеет решающее значение. Ранее в этом месяце вице-президент Камала Гаррис достигла исторического момента, приняв кандидатуру от Демократической партии на пост президента, став первой чернокожей и южноазиатской женщиной, возглавившей предвыборный бюллетень крупной партии. Этот этап стал значительным шагом вперед не только в американской политике, но и в деле продвижения разнообразия и представительства. Однако после того, как Гаррис стала вероятным кандидатом в конце июля, в интернете усилилась волна дезинформации и неправдивых сведений. Большая часть этой ложной информации, ранее опровергнутой авторитетными источниками, вновь появилась и распространилась широко благодаря социальным сетям и различным онлайн-платформам. Для исследования роли технологий в этой проблеме Proof News проанализировал модели ИИ крупнейших компаний отрасли, преданных борьбе с избирательной дезинформацией и продвижению правдивого контента. К сожалению, результаты оказались разочаровывающими: около 30 процентов ответов, генерируемых ИИ о Гаррис и Трампе, содержали неточности или вводящие в заблуждение сведения, способные запутать читателей или способствовать распространению дезинформации. Эта проблема подчеркивает ключевые трудности для разработчиков ИИ, главным образом — баланс между способностью ИИ генерировать текст, похожий на человеческий, и необходимостью соблюдения фактической точности, особенно в политически чувствительных темах.

Эти модели в значительной мере зависят от огромных объемов интернет-данных, где распространена дезинформация, зачастую трудно отличимая от проверенных фактов. Кроме того, динамичный характер политических нарративов и сложный социальный контекст, связанный с фигурами вроде Гаррис и Трампа, усложняют усилия по поддержанию актуальности и точности информации. Многократно опровергнутые ложные сведения часто вновь появляются в новых формах, делая сложно поддерживать точное соответствие актуальным фактам. Несмотря на то, что стремления ИИ-компаний бороться с избирательной дезинформацией заслуживают похвалы и имеют важное значение, выявленные результаты подчеркивают необходимость усилить обучение ИИ, улучшить качество данных и интегрировать механизмы проверки фактов в реальном времени. Повышение прозрачности источников контента, создаваемого ИИ, и внедрение более строгих мер предосторожности могут снизить количество вводящих в заблуждение ответов. Эксперты подчеркивают, что ИИ должен служить дополнением, а не заменой человеческого суждения; пользователям важно оставаться критичными к информации, созданной ИИ, особенно по важным общественным вопросам, таким как выборы. В целом, историческая номинация вице-президента Гаррис свидетельствует о прогрессе в американской политике, но одновременно демонстрирует сложные вызовы, связанные с потоком информации в цифровую эпоху. Роль ИИ в формировании общественного дискурса требует постоянного контроля и доработки, чтобы эти технологии поддерживали истину и демократические процессы, а не подрывали их. По мере развития политической ситуации необходимо совместное усилие разработчиков ИИ, законодателей и общества для создания информационной среды, в которой точность превалирует над дезинформацией. Решая указанные в отчете Proof News проблемы, ИИ сможет лучше служить инструментом ясности и понимания в будущих политических дебатах.