Uno studio recente condotto dalla BBC rivela che quattro prominenti chatbot di intelligenza artificiale (AI) stanno distorcendo le notizie. La ricerca si è concentrata su ChatGPT di OpenAI, Copilot di Microsoft, Gemini di Google e Perplexity AI, i quali sono stati forniti di contenuti dal sito web della BBC e sono stati invitati a rispondere a domande relative alle notizie. Secondo i risultati, le risposte prodotte da questi chatbot contenevano "significative imprecisioni" e distorsioni. Deborah Turness, CEO di BBC News e Current Affairs, ha osservato in un post sul blog che, sebbene l'AI presenti "opportunità infinite", le aziende che sviluppano queste tecnologie stanno "giocando col fuoco". Ha sollevato preoccupazioni riguardo ai potenziali pericoli dei titoli generati dall'AI, domandandosi quanto tempo potrebbe volerci prima che tali distorsioni portino a serie conseguenze nel mondo reale. Le aziende tecnologiche responsabili per i chatbot sono state contattate per ricevere le loro risposte. Lo studio ha coinvolto la richiesta a ChatGPT, Copilot, Gemini e Perplexity di riassumere 100 articoli di notizie e ha valutato le loro risposte.

Giornalisti esperti nei soggetti rilevanti hanno esaminato la qualità delle risposte dei sistemi AI. I risultati hanno rivelato che il 51% delle risposte generate dall'AI conteneva problemi significativi. Inoltre, il 19% delle risposte che facevano riferimento a contenuti della BBC includeva errori fattuali, che variavano da affermazioni errate a numeri e date errate. Nel suo blog, la signora Turness ha sottolineato la necessità di un approccio collaborativo tra la BBC e i fornitori di tecnologie AI per affrontare queste sfide. Ha esortato le aziende tecnologiche a "ritirarsi" sui loro riassunti di notizie generati dall'AI, simile all'azione di Apple dopo le lamentele della BBC riguardo alle rappresentazioni incorrecte di Apple Intelligence sulle notizie. Alcune specifiche imprecisioni evidenziate dalla BBC includevano: - Gemini affermava erroneamente che il NHS non raccomanda il vaping per la cessazione del fumo. - ChatGPT e Copilot sostenevano erroneamente che Rishi Sunak e Nicola Sturgeon fossero ancora in carica nonostante le loro dimissioni. - Perplexity attribuiva erroneamente una citazione della BBC News riguardo al Medio Oriente, descrivendo in modo inaccurato la risposta dell'Iran come una di "restrizione" mentre etichettava le azioni di Israele come "aggressive". In generale, Copilot di Microsoft e Gemini di Google presentavano problemi più significativi rispetto a ChatGPT di OpenAI e Perplexity, supportato da Jeff Bezos. Tradizionalmente, la BBC limita i contenuti ai chatbot di AI, ma ha concesso accesso durante i test condotti a dicembre 2024. Il report indicava che, oltre alle imprecisioni fattuali, i chatbot spesso lottavano per distinguere tra opinione e fatto, tendevano a fare editoriale e mancavano frequentemente di contesto critico. Pete Archer, Direttore del Programma Generativo AI della BBC, ha dichiarato che gli editori dovrebbero mantenere il controllo su come i loro contenuti vengono utilizzati e le aziende di AI devono dimostrare trasparenza riguardo a come i loro sistemi elaborano le notizie e la portata degli errori che generano.