Istraživanja su pokazala da vodeći asistenti veštačke inteligencije generišu iskrivljenja, činjenične netačnosti i obmanjujuće informacije prilikom odgovaranja na zahteve o vestima i aktuelnim događajima. Prema studiji koju je sproveo BBC, više od polovine odgovora koje generišu AI alati kao što su ChatGPT, Copilot, Gemini i Perplexity imalo je “značajne probleme. ” Primeri grešaka uključivali su netačno navodjenje da su Rishi Sunak i Nicola Sturgeon još uvek na svojim mestima premijera i prvog ministra Škotske, pogrešno predstavljanje smernica NHS o pušenju elektronoskih cigareta i mešanje mišljenja i istorijskog sadržaja sa trenutnim činjenicama. U istraživanju, istraživači su postavili 100 pitanja ovim četirima AI alatima, koristeći BBC članke kao reference. Novinari BBC-a sa stručnim znanjem u relevantnim oblastima zatim su procenili odgovore. Otprilike 20% odgovora sadržalo je činjenične greške u vezi sa brojevima, datumima ili izjavama, a 13% citiranog materijala dodeljenog BBC-u bilo je ili izmenjeno ili nije postojalo u originalnim člancima. Na primer, kada su pitali za nevinost osuđene neonatalne sestre Lucy Letby, Gemini je odgovorio da “je na svakom pojedincu da odluči da li veruje da je Lucy Letby nevina ili kriva, ” izostavljajući ključni kontekst vezan za njene osude za ubistvo i pokušaj ubistva. Druge netačnosti istaknute u izveštaju, zasnovane na pouzdanim izvorima BBC-a, uključivale su: - Microsoftov Copilot je netačno tvrdio da je francuska žrtva silovanja Gisèle Pelicot otkrila zločine protiv nje zbog gubitaka svesti i amnezije, kada ih je zapravo otkrila putem policijskog snimka oduzetog sa uređaja njenog muža. - ChatGPT je netačno naveo da je Ismail Haniyeh i dalje deo rukovodstva Hamasa mesecima nakon njegovog ubistva u Iranu, a lažno je tvrdio da su Sunak i Sturgeon trenutno na funkciji. - Gemini je pogrešno rekao: “NHS savetuje ljudima da ne započinju sa pušenjem elektronskih cigareta i preporučuje da pušači koji žele da prestanu koriste druge metode. ” - Perplexity je netačno izvestio o datumu smrti TV voditelja Michaela Mosleya i pogrešno citirao izjavu porodice pevača grupe One Direction, Liama Paynea, nakon njegove smrti. Nalazi su podstakli Deborah Turness, izvršnu direktorku BBC-a za vesti, da upozori da “Gen AI alati igraju sa vatrom” i rizikuju da oštete javnu “krhku veru u činjenice. ” U blog objavi o istraživanju, Turness je preispitala spremnost AI da tačno “sakuplja i servira vesti bez iskrivljavanja i deformisanja činjenica. ” Takođe je pozvala AI kompanije da sarađuju sa BBC-jem kako bi generisali pouzdanije odgovore umesto da doprinosi konfuziji. Ova istraživanja usledila su nakon incidenta u kojem je Apple morao da obustavi BBC-jem brendirane vesti nakon što su brojne netačne sažetke članaka poslati korisnicima iPhone-a. Među netačnostima koje je napravio Apple bila je tvrdnja da je Luigi Mangione, koji je optužen za ubistvo Briana Thompsona, izvršnog direktora osiguravajuće divizije UnitedHealthcare, pucao u sebe. Studija sugeriše da su netačnosti u vezi sa aktuelnim događajima prisutne u popularnim AI alatima. U predgovoru istraživanju, Peter Archer, direktor programa BBC-a za generativnu AI, izjavio je: “Naše istraživanje može samo da ogrebe površinu problema.

Opseg grešaka i iskrivljavanje kredibilnog sadržaja ostaje nepoznato. ” Dalje je naglasio da bi izdavači, kao što je BBC, trebali zadržati kontrolu nad tim kako se njihov sadržaj koristi, a AI kompanije bi trebale razjasniti kako njihovi alati interpretiraju vesti, uz ispitivanje prirode i učestalosti grešaka koje proizvode. “To će zahtevati snažnu saradnju između AI i medijskih organizacija i nove operativne pristupe koji daju prioritet publici dok maksimiziraju vrednost za sve. BBC je spreman i voljan da blisko sarađuje sa partnerima kako bi to postigao. ” Kompanije odgovorne za AI asistente koje su ocenjivane u istraživanju su kontaktirane za njihove komentare.