En nylig undersøgelse udført af BBC afslører, at fire fremtrædende chatbots til kunstig intelligens (AI) misrepræsenterer nyhedshistorier. Forskningen fokuserede på OpenAI's ChatGPT, Microsofts Copilot, Googles Gemini og Perplexity AI, som blev præsenteret for indhold fra BBC's hjemmeside og afkrævet at svare på nyhedsrelaterede spørgsmål. Ifølge resultaterne indeholdt svarene genereret af disse chatbots "betydelige unøjagtigheder" og misrepræsentationer. Deborah Turness, CEO for BBC News and Current Affairs, bemærkede i et blogindlæg, at mens AI præsenterer "uendelige muligheder, " så "legede" virksomhederne, der udvikler disse teknologier, "med ild. " Hun udtrykte bekymring for de potentielle farer ved AI-genererede overskrifter og spurgte, hvor lang tid der ville gå, før sådanne forvrængninger kunne føre til alvorlige konsekvenser i virkeligheden. De teknologivirksomheder, der står bag chatbots, er blevet kontaktet for deres svar. Undersøgelsen involverede at bede ChatGPT, Copilot, Gemini og Perplexity om at opsummere 100 nyhedsartikler og evaluere deres svar. Journalister med ekspertise inden for de relevante emner vurderede kvaliteten af svarene fra AI-systemerne. Resultaterne afslørede, at 51% af de AI-genererede svar indeholdt betydelige problemer.

Desuden inkluderede 19% af svarene, der henviste til BBC-indhold, faktiske fejl, som spækkede fra urigtige udsagn til forkerte tal og datoer. I sit blogindlæg understregede Ms. Turness behovet for en samarbejdsindsats mellem BBC og AI-teknologileverandører for at tackle disse udfordringer. Hun opfordrede teknologivirksomhederne til at "trække sig tilbage" fra deres AI-genererede nyhedssammendrag, ligesom Apple agerede efter BBC's klager vedrørende Apple Intelligence's forkerte repræsentationer af nyheder. Flere specifikke unøjagtigheder, der blev fremhævet af BBC, omfattede: - Gemini fejlbehæftet hævdede, at NHS ikke anbefaler vaping til rygestop. - ChatGPT og Copilot påstod fejlagtigt, at Rishi Sunak og Nicola Sturgeon stadig var i embedsværket, trods deres afgang. - Perplexity misattributed et citat fra BBC News vedrørende Mellemøsten og beskrev Irans reaktion unøjagtigt som "beskeden, " mens Israels handlinger blev mærket som "agressive. " Generelt præsenterede Microsofts Copilot og Googles Gemini flere betydelige problemer sammenlignet med OpenAI’s ChatGPT og Perplexity, der støttes af Jeff Bezos. Traditionelt begrænser BBC sit indhold fra AI-chatbots, men tillod adgang under test, der blev udført i december 2024. Rapporten indikerede, at ud over faktiske unøjagtigheder ofte måtte chatbots kæmpe for skelne mellem mening og fakta, havde en tendens til at editorialisere og manglede ofte kritisk kontekst. Pete Archer, BBC’s programdirektør for generativ AI, udtalte, at udgivere skal bevare kontrollen over, hvordan deres indhold anvendes, og AI-virksomheder må demonstrere gennemsigtighed omkring, hvordan deres systemer behandler nyheder og omfanget af de fejl, de genererer.