Nýleg rannsókn á leiðandi gervigreindarlíkönum hefur komið í ljós alvarlegt vandamál: þegar spurt var um varaforseta Kamölu Harris og fyrrverandi forseta Donald Trump, þá framleiddu kerfin misvísandi upplýsingar um rúmlega 30 prósent tilvika. Þetta vekur alvarlegar áhyggjur varðandi áreiðanleika gervigreindar, sérstaklega á mikilvægum tímum eins og kjörtímabilum þegar nákvæm upplýsingar eru lykilatriði. Framan við mánaðarmótin komst Kamala Harris í söguna með því að taka við forsetaumboði Demókrataflokksins, og varð fyrsta svart-Ameríska og Suður- Asísk kona til að leiða stórt flokksslið. Þessi mælikvarði markaði mikla framfarir, ekki aðeins í bandarískum stjórnmálum heldur einnig í að stuðla að fjölbreytni og fulltrúiöryggi. Hins vegar, eftir að Harris stóð uppi sem líklegur tilnefning, jókst misskilningur og rangfærslur á netinu. Mikið af þessu vafasamlega efni, sem áður hafði verið vanreiknað af áreiðanlegum heimildum, birtist aftur og dreifðist víða, knúið áfram af samfélagsmiðlum og ólíkum vefmiðlum. Til að kanna hlutverk tækni í þessu máli, skoðaði Proof News gervigreindarlíkön frá leiðandi fyrirtækjum í greininni, sem hafa það að leiðarljósi að takmarka rangfærslur um kosningar og stuðla að sannleika. Óheillavænleg niðurstaða reyndist hins vegar vera: um 30 prósent af svörum frá gervigreindum sem tengdust Harris og Trump innihaldið rangfærslur eða villandi upplýsingar sem geta fært lesendur villur eða ýtt undir rangfærslur. Þessi áskorun undirstrikar helstu erfiðleika fyrir þróunaraðila gervigreindar, einkum að jafna á milli getu til að framleiða mannlega svipaða texta og kröfu um staðreyndaþekkingu á pólitískum viðkvæmum málefnum.

Þessi kerfi treysta mikið á umfangsmikla gögn frá internetinu, þar sem rangfærslur eru algengar og oft óaðgreinanlegar frá sannbeitandi upplýsingum. Auk þess er flókið að halda jafnvægi á milli pólitískra frásagna og flókins félagslegs samhengi um persónur eins og Harris og Trump, þar sem gömul rangfærslur koma fram í nýju forms, sem gerir það erfiðara fyrir gervigreindarkerfi að halda sér við nýjustu staðreyndarstjórnar. Þótt skuldbinding fyrirtækja til að berjast gegn rangfærslum í kosningalöndum sé hrósað, þá minna niðurstöðurnar á brýna þörf fyrir betri menntun gervigreindarinnar, betri gagnaumbrot og rauntíma staðreyndamerkingar. Frekari gagnsæi um uppruna gervigreindarframleidds efnis og aðgerðir til að efla varnagla gætu dregið úr villandi útdrætti. Serkar heimildir leggja áherslu á að gervigreind eigi að styðja við mannlega dómgreind, ekki á að hana koma í staðinn fyrir hana; notendur verða að gæta að gagnrýni á gervigreindarupplýsingar, sérstaklega þegar um er að ræða mikilvægar lýðræðislegar ákvarðanir eins og kosningar. Í stuttu máli sýnir forsetaumboðið Harris að þróun í bandarískum stjórnmálum er mikilvægasta framfarasaga, en líka sýnir hún flókna áskorun um stjórnun upplýsingaflæðis á stafrænum tíma. Þróun gervigreindar í að móta opinbert orðspor krefst stöðugrar vakningar og endurbóta til að tryggja að þessar tækni uppfylli sannleikann og styðji við lýðræðisleg ferli fremur en að ógna þeim. Þegar pólitískir vaxandi hlutar þróast, er nauðsynlegt að samstarf á milli þróunaraðila gervigreindar, stefnumótunaraðila og almennings stuðli að umhverfi upplýsinga þar sem nákvæmni ræður yfir misskilningi. Með því að takast á við þau mál sem Proof News bent á, getur gervigreind orðið betri tól til að stuðla að skýrleika og skilningi í framtíðar pólitískri umræðu.