La ricerca ha rivelato che i principali assistenti di intelligenza artificiale generano distorsioni, imprecisioni fattuali e informazioni fuorvianti quando rispondono a domande su notizie e eventi attuali. Secondo uno studio condotto dalla BBC, oltre la metà delle risposte generate dall'AI di ChatGPT, Copilot, Gemini e Perplexity sono state valutate avere “problemi significativi. ” Esempi di errori includevano l'affermazione errata che Rishi Sunak e Nicola Sturgeon fossero ancora nelle rispettive posizioni di primo ministro e primo ministro di Scozia, la distorsione delle linee guida del NHS riguardo al vaping, e la confusione tra opinioni e contenuti storici con fatti attuali. Nello studio, i ricercatori hanno posto 100 domande a questi quattro strumenti AI, utilizzando articoli della BBC come riferimento. Giornalisti della BBC con esperienza nei settori pertinenti hanno poi valutato le risposte. Circa il 20% delle risposte conteneva errori fattuali riguardo numeri, date o affermazioni, e il 13% del materiale citato attribuito alla BBC era stato alterato o non esisteva negli articoli originali. Ad esempio, quando è stato chiesto dell’innocenza dell’infermiera neonatale condannata Lucy Letby, Gemini ha risposto che “spetta a ciascun individuo decidere se credere che Lucy Letby sia innocente o colpevole, ” omettendo un contesto cruciale riguardante le sue condanne per omicidio e tentato omicidio. Altre imprecisioni sottolineate nel rapporto, basate su fonti affidabili della BBC, includevano: - Copilot di Microsoft ha erroneamente affermato che la vittima di stupro francese Gisèle Pelicot aveva scoperto crimini contro di lei a causa di blackout e perdita di memoria, quando in realtà li aveva scoperti tramite riprese della polizia sequestrate dai dispositivi di suo marito. - ChatGPT ha erroneamente dichiarato che Ismail Haniyeh fosse ancora parte della leadership di Hamas mesi dopo il suo assassinio in Iran, e ha falsamente mantenuto che Sunak e Sturgeon fossero attualmente in carica. - Gemini ha detto erroneamente: “Il NHS consiglia alle persone di non iniziare a svapare e raccomanda che i fumatori che vogliono smettere usino altri metodi. ” - Perplexity ha riportato inaccuratamente la data della morte del presentatore televisivo Michael Mosley e ha citato erroneamente una dichiarazione della famiglia del cantante dei One Direction Liam Payne dopo la sua scomparsa. I risultati hanno spinto Deborah Turness, amministratore delegato della BBC per le notizie, a mettere in guardia che “gli strumenti AI generativi stanno giocando con il fuoco” e rischiano di danneggiare la "fragile fede del pubblico nei fatti. " In un post sul blog riguardo la ricerca, Turness ha messo in discussione la prontezza dell'AI ad “estrarre e fornire notizie senza distorcere e contorcere i fatti. ” Ha inoltre esortato le aziende di AI a collaborare con la BBC per generare risposte più affidabili piuttosto che contribuire alla confusione. Questa ricerca segue un incidente in cui Apple ha dovuto interrompere gli avvisi di notizie a marchio BBC dopo che diversi sommari di articoli errati sono stati inviati agli utenti di iPhone. Tra le imprecisioni di Apple c’era l'affermazione che Luigi Mangione, accusato dell'omicidio di Brian Thompson, amministratore delegato della divisione assicurativa di UnitedHealthcare, si fosse suicidato. Lo studio indica che le imprecisioni riguardanti gli affari correnti sono diffuse tra i popolari strumenti di intelligenza artificiale. In una prefazione alla ricerca, Peter Archer, direttore del programma generativo AI della BBC, ha dichiarato: “La nostra ricerca può solo grattare la superficie della questione.

L'entità degli errori e la distorsione di contenuti credibili rimangono sconosciuti. ” Ha ulteriormente sottolineato che gli editori, come la BBC, dovrebbero mantenere il controllo su come i loro contenuti vengano utilizzati, e le aziende di AI dovrebbero chiarire come i loro strumenti interpretano le notizie, insieme a un esame della natura e della frequenza degli errori che producono. “Questo richiederà forti collaborazioni tra AI e organizzazioni mediatiche e nuovi approcci operativi che diano priorità al pubblico massimizzando il valore per tutti. La BBC è pronta e desiderosa di collaborare strettamente con i partner per raggiungere questo obiettivo. ” Le aziende responsabili degli assistenti AI valutati nella ricerca sono state contattate per un commento.