Μια πρόσφατη μελέτη που διεξήγαγαν οι BBC αποκαλύπτει ότι τέσσερις εξέχοντες chatbot τεχνητής νοημοσύνης (AI) παραποιούν ειδήσεις. Η έρευνα εστίασε στο ChatGPT της OpenAI, το Copilot της Microsoft, το Gemini της Google και το Perplexity AI, τα οποία έλαβαν περιεχόμενο από την ιστοσελίδα της BBC και ρωτήθηκαν σχετικά με ειδήσεις. Σύμφωνα με τα ευρήματα, οι απαντήσεις που παρήγαγαν αυτά τα chatbot περιείχαν "σημαντικές ανακρίβειες" και παραπλανήσεις. Η Deborah Turness, διευθύνουσα σύμβουλος των BBC News και Current Affairs, σημείωσε σε μια ανάρτηση στο μπλογκ της ότι, ενώ η AI προσφέρει "ατελείωτες ευκαιρίες, " οι εταιρείες που αναπτύσσουν αυτές τις τεχνολογίες "παίζουν με τη φωτιά. " Εκφράζει ανησυχίες για τους πιθανούς κινδύνους από τις κεφαλίδες που παράγονται από την AI, αναρωτώμενη πόσος χρόνος μπορεί να περάσει πριν τέτοιες παραμορφώσεις οδηγήσουν σε σοβαρές πραγματικές συνέπειες. Οι τεχνολογικές εταιρείες που είναι υπεύθυνες για τα chatbot έχουν επικοινωνηθεί για τις απαντήσεις τους. Η μελέτη περιλάμβανε το αίτημα στα ChatGPT, Copilot, Gemini και Perplexity να συνοψίσουν 100 ειδησεογραφικά άρθρα και να αξιολογηθούν οι απαντήσεις τους. Δημοσιογράφοι με εμπειρία στα σχετικά θέματα αξιολόγησαν την ποιότητα των απαντήσεων από τα συστήματα AI. Τα αποτελέσματα αποκάλυψαν ότι το 51% των απαντήσεων που παρήχθησαν από την AI περιείχαν σημαντικά προβλήματα.

Επιπλέον, το 19% των απαντήσεων που αναφέρονταν σε περιεχόμενο της BBC περιλάμβαναν фактические ошибки, οι οποίες κυμαίνονταν από λανθασμένες δηλώσεις μέχρι λανθασμένους αριθμούς και ημερομηνίες. Στο μπλογκ της, η κ. Turness τόνισε την ανάγκη για συνεργατική προσέγγιση μεταξύ της BBC και των παρόχων τεχνολογίας AI για την αντιμετώπιση αυτών των προκλήσεων. Προέτρεψε τις εταιρείες τεχνολογίας να "τραβήξουν πίσω" στις ειδήσεις που παράγουν με AI, παρόμοια με τη δράση της Apple μετά από παραπόνων της BBC για τις λανθασμένες αναπαραστάσεις ειδήσεων από την Apple Intelligence. Ορισμένες συγκεκριμένες ανακρίβειες που επισημάνθηκαν από την BBC περιλάμβαναν: - Το Gemini δήλωσε λανθασμένα ότι το NHS δεν συστήνει το vaping για την διακοπή του καπνίσματος. - Το ChatGPT και το Copilot ισχυρίστηκαν λανθασμένα ότι οι Rishi Sunak και Nicola Sturgeon βρίσκονταν ακόμη στη θέση τους παρά την αποχώρησή τους. - Το Perplexity αποδόθηκε λανθασμένα μια δήλωση από την BBC News σχετικά με τη Μέση Ανατολή, περιγράφοντας ανακριβώς την αντίδραση του Ιράν ως "συγκράτηση", ενώ χαρακτήρισε τις ενέργειες του Ισραήλ ως "επιθετικές. " Συνολικά, το Copilot της Microsoft και το Gemini της Google παρουσίασαν πιο σημαντικά προβλήματα σε σύγκριση με το ChatGPT της OpenAI και το Perplexity, που υποστηρίζεται από τον Jeff Bezos. Παραδοσιακά, η BBC περιορίζει το περιεχόμενό της από τα chatbot AI, αλλά επέτρεψε την πρόσβαση κατά τη διάρκεια δοκιμών που διεξήχθησαν τον Δεκέμβριο του 2024. Η έκθεση υποδείκνυε ότι, εκτός από τις фактические ошибки, τα chatbot συχνά δυσκολεύονταν να διακρίνουν μεταξύ γνώμης και γεγονότων, είχαν την τάση να εκφράζουν γνώμη και συχνά έλειπε κρίσιμο πλαίσιο. Ο Pete Archer, διευθυντής προγράμματος του BBC για τη γενετική AI, δήλωσε ότι οι εκδότες πρέπει να διατηρούν τον έλεγχο σχετικά με το πώς χρησιμοποιείται το περιεχόμενό τους και οι εταιρείες AI πρέπει να δείχνουν διαφάνεια ως προς το πώς τα συστήματά τους επεξεργάζονται ειδήσεις και την κλίμακα των λαθών που παράγουν.