Nylige undersøkelser av ledende kunstig intelligens (KI)-modeller har avdekket et bekymringsfullt problem: når de blir spurt om visepresident Kamala Harris og tidligere president Donald Trump, produserte disse systemene villedende informasjon omtrent 30 prosent av gangene. Dette reiser alvorlige bekymringer for KI-tillitelighet, spesielt i kritiske perioder som valgsesonger når nøyaktig informasjon er avgjørende. Tidligere denne måneden gjorde visepresident Kamala Harris historie ved å akseptere det demokratiske partiets presidentkandidatnominasjon, og ble den første svarte og sør-asiatiske kvinnen til å lede et stort parti sitt kandidater. Denne milepælen markerte en betydelig fremgang ikke bare i amerikansk politikk, men også i å fremme mangfold og representasjon. Men etter at Harris ble den sannsynlige nominasjonen på slutten av juli, økte feilinformasjon og desinformasjon på nettet. Mye av dette falske innholdet, som tidligere er blitt avkreftet av troverdige kilder, dukket opp igjen og spredte seg bredt, forsterket av sosiale medier og ulike nettbaserte plattformer. For å undersøke teknologiens rolle i dette problemet, analyserte Proof News KI-modeller fra ledende selskaper i industrien som er forplikta til å begrense valgfusk og fremme sannferdig innhold. Dessverre var resultatene nedslående: rundt 30 prosent av KI-genererte svar om Harris og Trump inneholdt feil eller villedende informasjon som kunne forvirre lesere eller bidra til feilinformasjon. Denne utfordringen belyser viktige vanskeligheter for KI-utviklere, spesielt å balansere KI’s evne til å generere menneskelignende tekst med nødvendigheten av faktabasert nøyaktighet i politisk sensitive emner.

Disse modellene er sterkt avhengige av omfattende data fra internett, hvor feilinformasjon er vanlig og ofte vanskelig å skille fra verifiserte fakta. I tillegg gjør den dynamiske naturen til politiske narrativer og den komplekse sosiale konteksten rundt personer som Harris og Trump det vanskeligere å holde KI-systemer oppdaterte med faktasjekket. Lengre tid siden avkreftede usannheter dukker opp i nye former, noe som gjør det enda mer utfordrende for KI å holde seg til oppdaterte og korrekte opplysninger. Selv om KI-selskapers engasjement for å bekjempe feilinformasjon i valgsammenheng er verdifullt og viktig, understreker funnene behovet for forbedret trening av KI, bedre datakvalitet og integrering av sanntids faktasjekk. Økt åpenhet om kildene til KI-generert innhold og sterkere sikkerhetstiltak kan bidra til å redusere villedende output. Eksperter understreker at KI bør være et supplement – ikke en erstatning – for menneskelig vurdering; brukere må forbli kritiske til informasjon generert av KI, spesielt i viktige offentlige saker som valg. Kort sagt, visepresident Harris’ historiske nominasjon viser fremgang i amerikansk politikk, men illustrerer også de komplekse utfordringene ved informasjonsflyt i den digitale tidsalderen. KI’s økende rolle i å forme offentlig diskurs krever kontinuerlig årvåkenhet og utvikling for å sikre at disse teknologiene opprettholder sannheten og støtter demokratiske prosesser i stedet for å undergrave dem. Ettersom de politiske dynamikkene fortsetter å utvikle seg, er samarbeid mellom KI-utviklere, politikere og offentligheten avgjørende for å fremme en informasjonskultur der nøyaktighet trumfer desinformasjon. Ved å ta tak i problemene som Proof News har identifisert, kan KI bedre tjene som et verktøy for klarhet og forståelse i fremtidig politisk debatt.