Проведени наскоро изследвания върху водещи модели за изкуствен интелект (ИИ) разкриха тревожен проблем: при запитвания относно вицепрезидента Камала Харис и бившия президент Доналд Тръмп тези системи предоставяха подвеждаща информация около 30 процента от времето. Това повдига сериозни въпроси относно надеждността на ИИ, особено по време на критични периоди като изборните кампании, когато точната информация е от съществено значение. По-рано този месец вицепрезидент Камала Харис направи история, като приеме номинацията на Демократическата партия за президентския пост, ставайки първата черна жена и южноазиатка, която води кандидатската листа на голяма политическа партия. Този исторически момент отбеляза значителен напредък не само в американската политика, но и в насърчаването на многообразието и представителството. Въпреки това, след като Харис се очерта като вероятен кандидат през юли, онлайн се разпространиха много дезинформации и фалшиви новини. Много от тези неправилни твърдения, които бяха опровергани от надеждни източници, отново излязоха на повърхността и широко разпространяваха, като бяха усилени от социалните мрежи и различни онлайн платформи. За да разгледа ролята на технологиите в този проблем, Proof News анализира модели на изкуствен интелект от водещи компании в индустрията, ангажирани с ограничаване на изборните дезинформации и насърчаване на истина. За съжаление, резултатите бяха разочароващи: около 30 процента от отговорите, генерирани от ИИ, относно Харис и Тръмп, съдържаха неточности или подвеждаща информация, която може да обърка читателите или да подхрани разпространението на фалшиви новини. Този проблем подчертава ключовите трудности за разработчиците на ИИ, главно балансиране между способността на системите да генерират текст, подобен на човешкия, и нуждата от фактическа точност по политически чувствителни теми.

Тези модели зависят силно от обширни данни от интернет, където дезинформацията е често срещана и често неразличима от проверените факти. Освен това, динамичната природа на политическите разкази и сложният социален контекст около личности като Харис и Тръмп усложняват усилията за актуализация. Дълго опроверганите лъжи често се появяват наново в нови форми, като затрудняват системите за ИИ да останат в синхрон с актуалните проверки на факти. Докато ангажиментът на компаниите за ИИ в борбата с изборната дезинформация е похвален и важен, резултатите подчертават спешната необходимост от по-добро обучение на системите, подобрена селекция на данни и интегриране на проверка на фактите в реално време. Повишаването на прозрачността относно източниците на генерираното от ИИ съдържание и въвеждането на по-силни защитни мерки биха могли да намалят подвеждащите резултати. Експертите посочват, че ИИ трябва да бъде средство за подпомагане, а не заместител на човешкото съждение; потребителите трябва да остават критични към информацията, която се получава от системите за ИИ, особено по важни обществени въпроси като изборите. В обобщение, историческата номинация на вицепрезидента Харис е пример за напредък в американската политика, но също така илюстрира сложните предизвикателства при потока на информация в дигиталната ера. Ролята на ИИ в оформянето на общественото мнение изисква постоянен контрол и усъвършенстване, за да се гарантира, че тези технологии поддържат истината и подкрепят демократичните процеси, а не ги подкопават. Докато политическите динамики продължават да се развиват, сътрудничеството между разработчиците на ИИ, политиците и обществото е от съществено значение за създаването на информационна среда, в която достоверността има предимство пред дезинформацията. Чрез адресиране на проблемите, посочени от Proof News, ИИ може да служи по-добре като инструмент за яснота и разбиране в бъдещите политически дебати.