Penelitian telah mengungkapkan bahwa asisten kecerdasan buatan terkemuka menghasilkan distorsi, ketidakakuratan fakta, dan informasi yang menyesatkan saat menjawab pertanyaan tentang berita dan peristiwa terkini. Menurut sebuah studi yang dilakukan oleh BBC, lebih dari setengah respons yang dihasilkan oleh AI dari ChatGPT, Copilot, Gemini, dan Perplexity dinilai memiliki “masalah signifikan. ” Contoh kesalahan termasuk pernyataan yang salah bahwa Rishi Sunak dan Nicola Sturgeon masih menjabat sebagai perdana menteri dan menteri pertama Skotlandia, salah mengartikan panduan NHS tentang vaping, dan membingungkan opini serta konten sejarah dengan fakta terkini. Dalam studi tersebut, peneliti mengajukan 100 pertanyaan kepada empat alat AI ini, menggunakan artikel BBC sebagai referensi. Jurnalis BBC yang memiliki keahlian di bidang terkait kemudian mengevaluasi respons tersebut. Sekitar 20% dari jawaban mengandung kesalahan fakta mengenai angka, tanggal, atau pernyataan, dan 13% dari materi kutipan yang dikaitkan dengan BBC telah diubah atau tidak ada dalam artikel aslinya. Sebagai contoh, ketika ditanya tentang kepolosan perawat neonatal yang dihukum, Lucy Letby, Gemini menjawab bahwa “itu tergantung pada masing-masing individu untuk memutuskan apakah mereka percaya bahwa Lucy Letby tidak bersalah atau bersalah, ” mengabaikan konteks penting mengenai vonis pembunuhan dan percobaan pembunuhan yang dijatuhkan padanya. Ketidakakuratan lain yang disoroti dalam laporan, berdasarkan sumber tepercaya dari BBC, termasuk: - Copilot milik Microsoft secara keliru mengklaim bahwa korban pemerkosaan Prancis, Gisèle Pelicot, menemukan kejahatan terhadap dirinya akibat blackout dan kehilangan ingatan, padahal ia sebenarnya menemukannya melalui rekaman polisi yang disita dari perangkat suaminya. - ChatGPT dengan salah menyatakan bahwa Ismail Haniyeh masih bagian dari kepemimpinan Hamas beberapa bulan setelah pembunuhannya di Iran, dan secara salah menyatakan bahwa Sunak dan Sturgeon masih menjabat saat ini. - Gemini secara keliru mengatakan, “NHS menyarankan orang untuk tidak mulai vaping, dan merekomendasikan agar perokok yang ingin berhenti menggunakan metode lain. ” - Perplexity melaporkan secara tidak akurat tanggal kematian presenter TV Michael Mosley dan mengutip secara salah pernyataan dari keluarga penyanyi One Direction, Liam Payne, setelah ia meninggal. Temuan tersebut mendorong Deborah Turness, direktur eksekutif berita BBC, untuk memperingatkan bahwa “alat Gen AI bermain api” dan berisiko merusak “kepercayaan rapuh publik terhadap fakta. ” Dalam sebuah pos blog tentang penelitian tersebut, Turness mempertanyakan kesiapan AI untuk secara akurat “menyaring dan menyajikan berita tanpa mendistorsi dan membengkokkan fakta. ” Ia juga mendesak perusahaan-perusahaan AI untuk bekerja sama dengan BBC agar menghasilkan respons yang lebih dapat diandalkan daripada berkontribusi pada kebingungan. Penelitian ini mengikuti insiden di mana Apple harus menghentikan pemberitahuan berita bermerek BBC setelah beberapa ringkasan artikel yang salah dikirim kepada pengguna iPhone. Di antara kesalahan Apple adalah klaim bahwa Luigi Mangione, yang telah didakwa dengan pembunuhan Brian Thompson, CEO divisi asuransi UnitedHealthcare, telah menembak dirinya sendiri. Studi ini menunjukkan bahwa ketidakakuratan terkait urusan terkini umum terjadi di berbagai alat AI populer. Dalam pengantar penelitian, Peter Archer, direktur program BBC untuk AI generatif, menyatakan, “Penelitian kami baru bisa menyentuh permukaan masalah ini.

Sejauh mana kesalahan dan distorsi konten yang kredibel masih tidak diketahui. ” Ia lebih jauh menekankan bahwa penerbit, seperti BBC, harus mempertahankan kontrol atas bagaimana konten mereka digunakan, dan perusahaan AI harus mengklarifikasi bagaimana alat mereka menafsirkan berita, bersama dengan pemeriksaan tentang sifat dan frekuensi kesalahan yang mereka hasilkan. “Ini akan memerlukan kolaborasi yang kuat antara AI dan organisasi media serta pendekatan operasional baru yang memprioritaskan audiens sambil memaksimalkan nilai untuk semua. BBC siap dan bersedia untuk berkolaborasi erat dengan mitra untuk mencapai ini. ” Perusahaan-perusahaan yang bertanggung jawab atas asisten AI yang dievaluasi dalam penelitian telah dihubungi untuk memberikan komentar.