Η έρευνα έχει αποκαλύψει ότι οι κορυφαίοι βοηθοί τεχνητής νοημοσύνης παράγουν παρα distortions, γεγονότα που είναι ανακριβή και παραπλανητικές πληροφορίες όταν απαντούν σε ερωτήσεις σχετικά με ειδήσεις και τρέχοντα γεγονότα. Σύμφωνα με μια μελέτη που διεξήχθη από το BBC, πάνω από το μισό των απαντήσεων που παράχθηκαν από το ChatGPT, Copilot, Gemini και Perplexity αξιολογήθηκαν ότι είχαν «σημαντικά προβλήματα». Παραδείγματα λαθών περιλάμβαναν τη λανθασμένη δήλωση ότι ο Rishi Sunak και η Nicola Sturgeon ήταν ακόμα στις αντίστοιχες θέσεις τους ως πρωθυπουργός και πρώτος υπουργός της Σκωτίας, τη λανθασμένη αναπαράσταση των οδηγιών του NHS σχετικά με τον ατμισμό και την σύγχυση απόψεων και ιστορικού περιεχομένου με τρέχοντα γεγονότα. Στη μελέτη, οι ερευνητές υπέβαλαν 100 ερωτήσεις σε αυτά τα τέσσερα εργαλεία τεχνητής νοημοσύνης, χρησιμοποιώντας άρθρα του BBC ως αναφορές. Δημοσιογράφοι του BBC με εξειδίκευση στους σχετικούς τομείς αξιολόγησαν στη συνέχεια τις απαντήσεις. Περίπου το 20% των απαντήσεων περιείχαν γεγονότα που ήταν λανθασμένα σχετικά με αριθμούς, ημερομηνίες ή δηλώσεις, και το 13% του υλικού που παρατίθετο από το BBC ήταν είτε αλλοιωμένο είτε ανύπαρκτο στα πρωτότυπα άρθρα. Για παράδειγμα, όταν ρωτήθηκε για την αθωότητα της καταδικασμένης νεογνολόγου Lucy Letby, το Gemini απάντησε ότι «είναι στο χέρι του κάθε ατόμου να αποφασίσει αν πιστεύει ότι η Lucy Letby είναι αθώα ή ένοχη», παραλείποντας κρίσιμη συγκείμενη πληροφορία σχετικά με τις καταδίκες της για δολοφονία και απόπειρα δολοφονίας. Άλλες ανακρίβειες που αναδείχθηκαν στην έκθεση, βάσει αξιόπιστων πηγών του BBC, περιλάμβαναν: - Το Copilot της Microsoft δήλωσε λανθασμένα ότι το θύμα βιασμού Γαλλίδα Γκιζέλ Πελικό ανακάλυψε εγκλήματα εναντίον της λόγω απώλειας μνήμης, ενώ στην πραγματικότητα τα ανακάλυψε μέσω υλικού της αστυνομίας που κατάσχεσαν από τις συσκευές του συζύγου της. - Το ChatGPT δήλωσε λανθασμένα ότι ο Ισμαήλ Χανίγια ήταν ακόμα μέρος της ηγεσίας της Χαμάς μήνες μετά την εκτέλεσή του στο Ιράν, και ψευδώς διατήρησε ότι ο Sunak και η Sturgeon ήταν τρέχοντες υπουργοί. - Το Gemini δήλωσε λανθασμένα: «Το NHS συμβουλεύει τους ανθρώπους να μην αρχίσουν να ατμίζουν και συστήνει σε καπνιστές που θέλουν να σταματήσουν να χρησιμοποιούν άλλες μεθόδους». - Το Perplexity ανέφερε λανθασμένα την ημερομηνία του θανάτου του τηλεπαρουσιαστή Michael Mosley και παραποίησε δήλωση της οικογένειας του Λίαμ Πέιν, τραγουδιστή των One Direction, μετά το θάνατό του. Τα ευρήματα προκάλεσαν την προειδοποίηση της Deborah Turness, διευθύντριας ειδήσεων του BBC, ότι «τα εργαλεία Gen AI παίζουν με φωτιά» και κινδυνεύουν να βλάψουν την «ευάλωτη πίστη του κοινού στα γεγονότα». Σε μια ανάρτηση στο μπλογκ σχετικά με την έρευνα, η Turness αμφισβήτησε την ετοιμότητα της τεχνητής νοημοσύνης να «σκαλίζει και να σερβίρει ειδήσεις χωρίς να παρα distortions και να αλλοιώνει τα γεγονότα». Επίσης κάλεσε τις εταιρείες AI να συνεργαστούν με το BBC για να παράγουν πιο αξιόπιστες απαντήσεις παρά να συμβάλλουν στη σύγχυση. Αυτή η έρευνα ακολούθησε ένα περιστατικό στο οποίο η Apple αναγκάστηκε να διακόψει τις ειδήσεις με το σήμα του BBC μετά την αποστολή πολλών λανθασμένων περιλήψεων άρθρων στους χρήστες iPhone. Μία από τις ανακρίβειες της Apple ήταν η δήλωση ότι ο Luigi Mangione, ο οποίος κατηγορείται για τη δολοφονία του Brian Thompson, διευθύνοντα σύμβουλο της ασφαλιστικής διεύθυνσης της UnitedHealthcare, είχε αυτοπυροβοληθεί. Η μελέτη υποδεικνύει ότι οι ανακρίβειες που αφορούν τις τρέχουσες υποθέσεις είναι διαδεδομένες σε δημοφιλή εργαλεία τεχνητής νοημοσύνης. Σε μια προλογική δήλωση σχετικά με την έρευνα, ο Peter Archer, διευθυντής προγράμματος του BBC για την γενετική τεχνητή νοημοσύνη, δήλωσε: «Η έρευνά μας μπορεί να αγγίξει μόνο την επιφάνεια του προβλήματος.

Η έκταση των λαθών και η παραμόρφωση αξιόπιστου περιεχομένου παραμένουν άγνωστες». Επιπλέον, τόνισε ότι οι εκδότες, όπως το BBC, θα πρέπει να διατηρήσουν τον έλεγχο του τρόπου με τον οποίο χρησιμοποιείται το περιεχόμενό τους, και οι εταιρείες AI θα πρέπει να διευκρινίσουν πώς ερμηνεύουν τα νέα, μαζί με μια εξέταση της φύσης και της συχνότητας των λαθών που παράγουν. «Αυτό θα απαιτήσει δυνατές συνεργασίες μεταξύ της τεχνητής νοημοσύνης και των μέσων ενημέρωσης και νέες λειτουργικές προσεγγίσεις που να δίνουν προτεραιότητα στο κοινό, ενώ μεγιστοποιούν την αξία για όλους. Το BBC είναι έτοιμο και πρόθυμο να συνεργαστεί στενά με τους συνεργάτες για να το επιτύχει αυτό». Οι εταιρείες που είναι υπεύθυνες για τους βοηθούς τεχνητής νοημοσύνης που αξιολογήθηκαν στην έρευνα έχουν επικοινωνήσει για τα σχόλιά τους.