Penyelidikan telah mendedahkan bahawa pembantu kecerdasan buatan utama menghasilkan penyimpangan, ketidaktepatan fakta, dan maklumat yang mengelirukan ketika menjawab pertanyaan mengenai berita dan peristiwa semasa. Menurut kajian yang dijalankan oleh BBC, lebih daripada separuh respons yang dihasilkan AI daripada ChatGPT, Copilot, Gemini, dan Perplexity dinilai mempunyai “masalah yang ketara. ” Contoh kesilapan termasuklah menyatakan secara tidak tepat bahawa Rishi Sunak dan Nicola Sturgeon masih memegang jawatan masing-masing sebagai perdana menteri dan menteri pertama Scotland, salah menggambarkan panduan NHS mengenai vaping, dan mengelirukan pendapat serta kandungan sejarah dengan fakta semasa. Dalam kajian itu, penyelidik mengajukan 100 soalan kepada empat alat AI ini, menggunakan artikel dari BBC sebagai rujukan. Wartawan BBC dengan kepakaran dalam bidang berkaitan kemudian menilai respons tersebut. Kira-kira 20% daripada jawapan mengandungi kesilapan fakta mengenai nombor, tarikh, atau penyataan, dan 13% daripada bahan yang dipetik yang dikaitkan dengan BBC telah diubah atau tidak wujud dalam artikel asal. Contohnya, apabila ditanya tentang ketidakbersalahan jururawat neonatal yang disabitkan, Lucy Letby, Gemini menjawab bahawa “adalah terserah kepada setiap individu untuk memutuskan sama ada mereka percaya Lucy Letby tidak bersalah atau bersalah, ” mengabaikan konteks penting mengenai sabitan membunuh dan mencuba membunuhnya. Kekurangan lain yang diketengahkan dalam laporan tersebut, berdasarkan sumber yang boleh dipercayai dari BBC, termasuk: - Copilot dari Microsoft salah mendakwa bahawa mangsa rogol Perancis, Gisèle Pelicot, mendedahkan jenayah terhadapnya akibat daripada pengsan dan kehilangan ingatan, sedangkan dia sebenarnya menjumpainya melalui rakaman polis yang dirampas daripada peranti suaminya. - ChatGPT menyatakan secara tidak tepat bahawa Ismail Haniyeh masih terlibat dalam kepimpinan Hamas beberapa bulan setelah pembunuhannya di Iran, dan secara palsu menegaskan bahawa Sunak dan Sturgeon masih dalam jawatan. - Gemini secara salah berkata, “NHS menasihati orang untuk tidak mula vaping, dan mengesyorkan agar perokok yang ingin berhenti menggunakan kaedah lain. ” - Perplexity melaporkan secara tidak tepat tarikh kematian pengacara TV, Michael Mosley, dan memetik secara salah satu kenyataan daripada keluarga penyanyi One Direction, Liam Payne selepas pemergiannya. Penemuan ini membuat Deborah Turness, CEO berita BBC, memberi amaran bahawa “alat Gen AI sedang bermain dengan api” dan berisiko merosakkan “kepercayaan rapuh orang ramai terhadap fakta. ” Dalam satu catatan blog mengenai penyelidikan tersebut, Turness mempersoalkan kesediaan AI untuk secara tepat “mengambil dan menyajikan berita tanpa menyimpang dan memanipulasi fakta. ” Dia juga menggesa syarikat AI untuk bekerjasama dengan BBC untuk menghasilkan respons yang lebih boleh dipercayai, bukannya menyumbang kepada kekeliruan. Penyelidikan ini mengikuti insiden di mana Apple terpaksa menghentikan amaran berita berjenama BBC selepas beberapa ringkasan artikel yang tidak tepat dihantar kepada pengguna iPhone. Antara ketidakakuratan Apple adalah dakwaan bahawa Luigi Mangione, yang telah didakwa membunuh Brian Thompson, CEO bahagian insurans UnitedHealthcare, telah menembak dirinya sendiri. Kajian menunjukkan bahawa ketidakakuratan mengenai hal ehwal semasa adalah perkara biasa di kalangan alat AI yang popular. Dalam kata pengantar untuk penyelidikan tersebut, Peter Archer, pengarah program BBC untuk AI generatif, menyatakan, “Penyelidikan kami hanya boleh menyentuh permukaan isu ini.

Tahap kesilapan dan penyimpangan kandungan yang boleh dipercayai masih tidak diketahui. ” Beliau selanjutnya menekankan bahawa penerbit, seperti BBC, harus mengekalkan kawalan ke atas cara kandungan mereka digunakan, dan syarikat AI harus memperjelas bagaimana alat mereka mentafsirkan berita, berserta pemeriksaan tentang sifat dan kekerapan kesilapan yang mereka hasilkan. “Ini akan memerlukan kerjasama yang kuat antara AI dan organisasi media serta pendekatan operasi baru yang mengutamakan audiens sambil memaksimumkan nilai untuk semua. BBC sedia dan bersedia untuk terlibat secara dekat dengan rakan kongsi untuk mencapai ini. ” Syarikat-syarikat yang bertanggungjawab untuk pembantu AI yang dinilai dalam penyelidikan ini telah dihubungi untuk mendapatkan komen mereka.