Raziskave so pokazale, da vodilni asistenti umetne inteligence pri odgovarjanju na vprašanja o novicah in aktualnih dogodkih ustvarjajo izkrivljanja, dejanske netočnosti in zavajajoče informacije. Po študiji, ki jo je izvedel BBC, je bilo ugotovljeno, da je več kot polovica AI-generiranih odgovorov iz ChatGPT, Copilot, Gemini in Perplexity imela "pomembne težave. " Primeri napak vključujejo napačno trditev, da sta Rishi Sunak in Nicola Sturgeon še vedno na svojih pozicijah premierja in prve ministrice Škotske, napačno predstavljanje smernic NHS o vapingu ter zmedo med mnenji in zgodovinskim gradivom ter trenutnimi dejstvi. V študiji so raziskovalci postavili 100 vprašanj tem štirim orodjem AI, pri čemer so kot reference uporabili članke BBC. Novinarji BBC, ki imajo strokovno znanje na ustreznih področjih, so nato ocenili odgovore. Približno 20 % odgovorov je vsebovalo dejanske napake glede številk, datumov ali izjav, 13 % citiranega gradiva, ki je bilo pripisano BBC, pa je bilo bodisi spremenjenih bodisi neobstoječih v izvirnih člankih. Na primer, ko so vprašali o nedolžnosti obsojene neonatalne medicinske sestre Lucy Letby, je Gemini odgovoril, da "je na posamezniku, da odloči, ali verjame, da je Lucy Letby nedolžna ali kriva, " pri tem pa je izpustil ključen kontekst glede njenih obsodb za umor in poskus umora. Druge netočnosti, poudarjene v poročilu, so vključevale: - Microsoftov Copilot je napačno trdil, da je francoska žrtev posilstva Gisèle Pelicot odkrila zločine proti njej zaradi blackoutov in izgube spomina, medtem ko jih je dejansko odkrila s pomočjo policijskega posnetka, zaseženega z naprav njenega moža. - ChatGPT je napačno trdil, da je Ismail Haniyeh še vedno del vodstva Hamasa mesece po njegovem umoru v Iranu in napačno vztrajal, da sta Sunak in Sturgeon trenutno v službi. - Gemini je pomotoma dejal: "NHS svetuje ljudem, naj ne začnejo z vapingu, in priporoča, da tisti, ki želijo prenehati kaditi, uporabijo druge metode. " - Perplexity je netočno poročal o datumu smrti televizijskega voditelja Michaela Mosleyja ter napačno citiral izjavo družine pevca skupine One Direction Liam Payna po njegovi smrti. Ugotovitve so spodbudile Deborah Turness, izvršno direktorico BBC za novice, da opozori, da "Gen AI orodja igrajo z ognjem" in tvegajo, da poškodujejo javno "krhko zaupanje v dejstva. " V objavi na blogu o raziskavi je Turness vprašala o pripravljenosti AI, da natančno "preskakuje in posreduje novice brez izkrivljanja dejstev. " Prav tako je pozvala podjetja AI, naj sodelujejo z BBC, da bi ustvarila bolj zanesljive odgovore in ne prispevala k zmedi. Ta raziskava sledi incidentu, v katerem je Apple moral ustaviti obvestila o novicah pod blagovno znamko BBC po številnih napačnih povzetkih člankov, ki so bili posredovani uporabnikom iPhonov. Med Appleovimi netočnostmi je bila trditev, da je Luigi Mangione, ki je obtožen umora Briana Thompsona, izvršnega direktorja zavarovalnega oddelka UnitedHealthcare, ustrelil sebe. Študija kaže, da so netočnosti v zvezi z aktualnimi zadevami pogoste med priljubljenimi orodji AI. V predgovoru raziskave je Peter Archer, programskega direktorja BBC za generativno AI, izjavil: "Naša raziskava lahko le površno obravnava to vprašanje.

Obseg napak in izkrivljanje verodostojnega gradiva ostajata neznana. " Poudaril je še, da bi morali založniki, kot je BBC, ohraniti nadzor nad tem, kako se njihova vsebina uporablja, in da bi morali podjetja AI pojasniti, kako njihova orodja interpretirajo novice ter preučiti naravo in pogostost napak, ki jih proizvajajo. "To bo zahtevalo močno sodelovanje med AI in medijskimi organizacijami ter nove operativne pristope, ki prioritizirajo občinstvo in hkrati maksimirajo vrednost za vse. BBC je pripravljen in voljan tesno sodelovati s partnerji, da to doseže. " Podjetja, odgovorna za AI asistente, ki so bili ocenjeni v raziskavi, so bila kontaktirana za njihove pripombe.