Un estudi recent realitzat per la BBC revela que quatre destacats xatbots d'intel·ligència artificial (IA) estan distorsionant notícies. La investigació es va centrar en ChatGPT d'OpenAI, Copilot de Microsoft, Gemini de Google i Perplexity AI, que van rebre contingut del lloc web de la BBC i se'ls va demanar que responguessin a consultes relacionades amb notícies. Segons les conclusions, les respostes generades per aquests xatbots contenien "inexactituds significatives" i distorsions. Deborah Turness, CEO de BBC News and Current Affairs, va assenyalar en una publicació del bloc que, tot i que la IA presenta "oportunitats infinites", les empreses que desenvolupen aquestes tecnologies estan "jugant amb foc". Va expressar preocupacions sobre els perills potencials dels titulars generats per IA, qüestionant quant de temps podria passar abans que aquestes distorsions provoquin conseqüències greus en el món real. Les empreses tecnològiques responsables dels xatbots han estat contactades per comentar sobre la seva resposta. L'estudi va implicar demanar a ChatGPT, Copilot, Gemini i Perplexity que resumissin 100 articles de notícies i avaluar les seves respostes. Periodistes amb experiència en els temes rellevants van avaluar la qualitat de les respostes dels sistemes d'IA. Els resultats van revelar que el 51% de les respostes generades per IA contenien problemes significatius.

A més, el 19% de les respostes que feien referència al contingut de la BBC incloïen errors facticals, que van variar des de declaracions incorrectes fins a números i dates errònies. En el seu bloc, la Sra. Turness va enfatitzar la necessitat d'un enfocament col·laboratiu entre la BBC i els proveïdors de tecnologia d'IA per abordar aquests desafiaments. Va instar les empreses tecnològiques a "reduir" els seus resums de notícies generats per IA, similar a l'acció d'Apple després de les queixes de la BBC sobre les representacions incorrectes d'Apple Intelligence. Diverses inexactituds específiques destacades per la BBC incloïen: - Gemini va declarar incorrectament que el NHS no recomana l'vaping per a la cessació del tabaquisme. - ChatGPT i Copilot van afirmar erròniament que Rishi Sunak i Nicola Sturgeon encara estaven en el càrrec malgrat les seves sortides. - Perplexity va atribuir incorrectament una cita de BBC News sobre el Mitjà Orient, descrivint erròniament la resposta d'Iran com una de "contenció" mentre etiquetava les accions d'Israel com "agressives". En general, Copilot de Microsoft i Gemini de Google presentaven més problemes significatius en comparació amb ChatGPT d'OpenAI i Perplexity, que està recolzat per Jeff Bezos. Tradicionalment, la BBC restringeix el seu contingut dels xatbots d'IA però va permetre l'accés durant les proves realitzades al desembre de 2024. El report va indicar que, a més de les inexactituds facticals, els xatbots sovint tenien dificultats per diferenciar entre opinió i fet, tendien a editorialitzar i sovint faltaven de context crític. Pete Archer, director de programa de la BBC per a IA Generativa, va assenyalar que els editors haurien de mantenir el control sobre com s'utilitza el seu contingut, i les empreses d'IA han de demostrar transparència pel que fa a com els seus sistemes processen les notícies i l'escala d'errors que generen.