Sebuah studi terbaru yang dilakukan oleh BBC mengungkap bahwa empat chatbot kecerdasan buatan (AI) terkemuka telah memberikan informasi yang menyesatkan mengenai berita. Penelitian ini berfokus pada ChatGPT dari OpenAI, Copilot dari Microsoft, Gemini dari Google, dan Perplexity AI, yang diberi konten dari situs web BBC dan diminta untuk menjawab pertanyaan terkait berita. Menurut temuan tersebut, jawaban yang dihasilkan oleh chatbot-chatbot ini mengandung "ketidakakuratan yang signifikan" dan misrepresentasi. Deborah Turness, CEO BBC News dan Current Affairs, mencatat dalam sebuah postingan blog bahwa sementara AI menawarkan "peluang tak terbatas, " perusahaan-perusahaan yang mengembangkan teknologi ini "bermain dengan api. " Dia mengungkapkan kekhawatiran tentang potensi bahaya dari judul berita yang dihasilkan AI, mempertanyakan berapa lama kemungkinan distorsi semacam itu dapat menyebabkan konsekuensi serius di dunia nyata. Perusahaan-perusahaan teknologi yang bertanggung jawab atas chatbot telah dihubungi untuk memberikan tanggapan mereka. Studi ini melibatkan meminta ChatGPT, Copilot, Gemini, dan Perplexity untuk merangkum 100 artikel berita dan mengevaluasi jawaban mereka. Jurnalis yang ahli dalam subjek terkait menilai kualitas respons dari sistem AI tersebut. Hasilnya menunjukkan bahwa 51% dari jawaban yang dihasilkan AI mengandung masalah signifikan.

Selain itu, 19% dari respons yang mengacu pada konten BBC termasuk kesalahan faktual, yang berkisar dari pernyataan yang tidak benar hingga angka dan tanggal yang salah. Dalam blognya, Ms. Turness menekankan perlunya pendekatan kolaboratif antara BBC dan penyedia teknologi AI untuk mengatasi tantangan ini. Dia mendesak perusahaan teknologi untuk "menarik kembali" ringkasan berita yang dihasilkan AI mereka, mirip dengan tindakan Apple setelah keluhan BBC terkait representasi berita yang salah oleh Apple Intelligence. Beberapa ketidakakuratan spesifik yang disoroti oleh BBC termasuk: - Gemini secara keliru menyatakan bahwa NHS tidak merekomendasikan vaping untuk penghentian merokok. - ChatGPT dan Copilot secara keliru mengklaim bahwa Rishi Sunak dan Nicola Sturgeon masih menjabat meskipun mereka telah mengundurkan diri. - Perplexity salah mengatribusikan kutipan dari BBC News terkait Timur Tengah, secara keliru menggambarkan respons Iran sebagai "pengekangan" sambil melabeli tindakan Israel sebagai "agresif. " Secara keseluruhan, Copilot dari Microsoft dan Gemini dari Google menghadapi masalah yang lebih signifikan dibandingkan dengan ChatGPT dari OpenAI dan Perplexity, yang didukung oleh Jeff Bezos. Secara tradisional, BBC membatasi kontennya dari chatbot AI tetapi memberikan akses selama pengujian yang dilakukan pada bulan Desember 2024. Laporan tersebut menunjukkan bahwa, selain ketidakakuratan faktual, chatbot sering kesulitan membedakan antara opini dan fakta, cenderung mengedit, dan sering kali kurang konteks penting. Pete Archer, Direktur Program BBC untuk Generative AI, menyatakan bahwa penerbit harus mempertahankan kontrol atas cara konten mereka digunakan, dan perusahaan AI harus menunjukkan transparansi mengenai bagaimana sistem mereka memproses berita dan seberapa besar kesalahan yang mereka hasilkan.