Výskum odhalil, že vedúce umelé inteligencie generujú skreslenia, faktické nepresnosti a zavádzajúce informácie pri odpovedaní na otázky týkajúce sa správ a aktuálnych udalostí. Podľa štúdie uskutočnenej BBC bolo viac ako polovica odpovedí generovaných AI nástrojmi, ako sú ChatGPT, Copilot, Gemini a Perplexity, hodnotená ako "s významnými problémami". Príklady chýb zahŕňali nesprávne tvrdenie, že Rishi Sunak a Nicola Sturgeon sú stále vo svojich pozíciách ako premiér a prvá ministerka Škótska, nesprávne podávanie pokynov NHS o vape a zmätok medzi názormi a historickým obsahom s aktuálnymi faktami. Vo štúdii výskumníci položili týmto štyrom AI nástrojom 100 otázok, pričom ako referencie použili články BBC. Novinári BBC s odbornými znalosťami v relevantných oblastiach následne vyhodnotili odpovede. Približne 20 % odpovedí obsahovalo faktické chyby týkajúce sa čísel, dátumov alebo tvrdení a 13 % citovaného materiálu pripisovaného BBC bolo buď zmenených, alebo neexistovalo v pôvodných článkoch. Napríklad, keď sa pýtali na nevinu odsúdenej novorodeneckej sestry Lucy Letby, Gemini odpovedalo, že "je na každom jednotlivcovi, aby rozhodol, či verí, že je Lucy Letby nevinná alebo vinná, " pričom vynechalo dôležitý kontext týkajúci sa jej odsúdenia za vraždu a pokus o vraždu. Ďalšie nepresnosti zvýraznené v správe, založené na spoľahlivých zdrojoch BBC, zahŕňali: - Microsoft’s Copilot nesprávne tvrdil, že francúzska obete znásilnenia Gisèle Pelicot odhalila zločiny voči sebe kvôli výpadkom a strate pamäte, keď ich v skutočnosti objavila prostredníctvom policajných záberov zaistených z neho manželových zariadení. - ChatGPT nesprávne uviedol, že Ismail Haniyeh bol stále súčasťou vedenia Hamasu mesiace po jeho atentáte v Iráne, a nepravdivo tvrdil, že Sunak a Sturgeon sú stále vo funkcii. - Gemini nesprávne uviedlo: “NHS odporúča, aby ľudia nezačínali vapovať a odporúča fajčiarom, ktorí chcú prestať, aby použili iné metódy. ” - Perplexity nesprávne uviedlo dátum úmrtia televízneho moderátora Michaela Mosleyho a nesprávne citovalo vyhlásenie rodiny speváka One Direction Liama Paynea po jeho smrti. Výsledky podnietili Deboru Turness, generálnu riaditeľku BBC pre správy, aby varovala, že “nástroje generatívnej AI hrajú s ohňom” a riskujú poškodenie verejného “krehkého postavenia vo faktách. ” V článku o výskume Turness spochybnila pripravenosť AI presne “zbierať a poskytovať správy bez skreslenia a deformácie faktov. ” Takisto vyzvala AI spoločnosti, aby spolupracovali s BBC na generovaní spoľahlivejších odpovedí, namiesto prispievania k zmätku. Tento výskum nasledoval po incidente, keď Apple musel pozastaviť upozornenia na správy značky BBC po tom, čo viacero nesprávnych súhrnov článkov bolo zaslaných používateľom iPhonu. Medzi nepresnosťami Apple bola tvrdenie, že Luigi Mangione, ktorý bol obvinený z vraždy Briana Thompsona, generálneho riaditeľa poistnej divízie UnitedHealthcare, sa zastrelil. Štúdia naznačuje, že nepresnosti týkajúce sa aktuálnych udalostí sú rozšírené naprieč populárnymi nástrojmi AI. V úvode k výskumu Peter Archer, programový riaditeľ BBC pre generatívnu AI, uviedol: “Náš výskum môže iba škrabať povrch problému.

Rozsah chýb a skreslenia dôveryhodného obsahu zostáva neznámy. ” Ďalej zdôraznil, že vydavatelia, ako je BBC, by mali zostať pod kontrolou nad tým, ako sa ich obsah využíva, a spoločnosti AI by mali objasniť, ako ich nástroje interpretujú správy, spolu so skúmaním povahy a frekvencie chýb, ktoré produkujú. “Totálne bude potrebné silné spolupráce medzi AI a mediálnymi organizáciami a nové operačné prístupy, ktoré uprednostňujú publikum a maximalizujú hodnotu pre všetkých. BBC je pripravená a ochotná úzko spolupracovať s partnermi na dosiahnutí tohto cieľa. ” Spoločnosti zodpovedné za AI asistentov hodnotených v štúdii boli kontaktované kvôli svojmu komentárom.