Nedávna štúdia, ktorú vykonala BBC, odhaľuje, že štyri významné chatboty umelej inteligencie (AI) nesprávne interpretujú správy. Výskum sa zameral na ChatGPT od OpenAI, Copilot od Microsoftu, Gemini od Googlu a Perplexity AI, ktoré dostali obsah z webovej stránky BBC a boli požiadané, aby reagovali na otázky súvisiace so správami. Podľa zistení obsahovali odpovede týchto chatbotov „významné nepresnosti“ a dezinformácie. Deborah Turness, generálna riaditeľka BBC News a Current Affairs, upozornila vo svojom blogu, že zatiaľ čo AI predstavuje „nekonečné príležitosti“, spoločnosti, ktoré tieto technológie vyvíjajú, „hrajú sa s ohňom“. Vyjadrila obavy o potenciálne nebezpečenstvá titulkov generovaných AI a pýtala sa, ako dlho by mohlo trvať, kým takéto skreslenia povedú k vážnym následkom v reálnom svete. Technologické spoločnosti zodpovedné za chatboty boli kontaktované pre ich reakcie. Štúdia sa zamerala na to, aby ChatGPT, Copilot, Gemini a Perplexity zhrnuli 100 spravodajských článkov a vyhodnotili ich odpovede.

Novinári so znalosťou danej problematiky hodnotili kvalitu odpovedí AI systémov. Výsledky ukázali, že 51% odpovedí generovaných AI obsahovalo významné problémy. Navyše, 19% odpovedí, ktoré sa týkali obsahu BBC, obsahovalo faktické chyby, medzi ktoré patrili nepresné vyhlásenia a chybné čísla a dátumy. Vo svojom blogu zdôraznila pani Turness potrebu spolupráce medzi BBC a poskytovateľmi AI technológií na riešení týchto výziev. Vyjadrila výzvu technologickým spoločnostiam, aby „ustúpili“ od svojich zhrnutí správ generovaných AI, podobne ako to urobil Apple po sťažnostiach BBC týkajúcich sa nesprávnych reprezentácií správ zo strany Apple Intelligence. Niekoľko konkrétnych nepresností, na ktoré poukázala BBC, zahŕňalo: - Gemini omylom uviedlo, že NHS neodporúča vaping na odvykanie od fajčenia. - ChatGPT a Copilot chybne tvrdili, že Rishi Sunak a Nicola Sturgeon sú stále vo funkcii, napriek ich odchodu. - Perplexity mylne pripísal citát z BBC News týkajúci sa Blízkeho východu a nesprávne opísal reakciu Iránu ako „umiernenú“, pričom označil činy Izraela za „agresívne“. Celkovo sa u Microsoftoveho Copilota a Googlovho Geminia vyskytlo viac významných problémov v porovnaní s ChatGPT od OpenAI a Perplexity, ktoré je podporované Jeffom Bezosom. Tradične BBC obmedzuje svoj obsah pre AI chatboty, ale počas testovania v decembri 2024 povolila prístup. Správa naznačila, že okrem faktických nepresností mali chatboty často problémy rozlíšiť medzi názormi a faktami, tendenciu k redakčnému prístupu a často im chýbal kritický kontext. Pete Archer, riaditeľ programu BBC pre generatívnu AI, uviedol, že vydavatelia by mali mať kontrolu nad tým, ako je ich obsah využívaný, a spoločnosti AI musia preukázať transparentnosť ohľadom toho, ako ich systémy spracovávajú správy a aký rozsah chýb generujú.