Mengkaji “Halusinasi” AI dan Letupan Gaza Ahad Thomas Copeland, wartawan BBC Verify Live Semasa kami bersedia menutup liputan langsung ini, berikut adalah ringkasan cerita utama hari ini. Chatbot AI Grok secara tidak tepat mendakwa di X bahawa rakaman udara mengenai protes anti-Trump di Boston pada hari Sabtu berasal dari tahun 2017. Kami menganalisis mengapa Grok membuat ralat ini, bagaimana maklumat salah tersebar dalam talian, dan secara terperinci bagaimana carian imej terbalik membantu membongkar dakwaan tersebut. Seorang pakar menjelaskan mengapa chatbot AI kadang-kadang “berhalusinasi” atau menghasilkan maklumat palsu. Sementara itu, tentera Israel melaporkan melakukan serangan terhadap Hamas di Gaza pada Ahad, dengan tuduhan pelanggaran gencatan senjata dari kedua-dua pihak. Pasukan kami mengkaji video yang beredar tentang seorang lelaki dipukul dan ditembak oleh lelaki yang memakai topeng di Gaza. Walaupun terdapat hantaran terkini, carian imej terbalik menunjukkan rakaman tersebut berusia lebih dari setahun. Selain itu, kami mengesahkan rakaman mengenai satu letupan dan kebakaran besar di sebuah kilang kimia di Jiangyin, China timur. Video menunjukkan api dan asap yang tebal; pihak berkuasa tempatan mengesahkan insiden tersebut berkaitan dengan tindak kelebihan phosphorous tetapi dikawal dalam kira-kira 50 minit, tanpa pencemaran alam sekitar dikesan. BBC Verify Live tetap log masuk untuk mengesahkan imej dan memantau cerita yang sedang berlangsung, kembali esok. Video letupan kilang kimia China disahkan Yi Ma dan Kumar Malhotra, BBC Verify Kami mengesahkan video yang menunjukkan kebakaran besar akibat letupan di kilang kimia Chengxing di Jiangyin, wilayah Jiangsu. Struktur dan hijauan di sekeliling dalam rakaman dipadankan dengan imej satelit Google Earth. Carian imej terbalik mengesahkan asal-usul rakaman yang baru. Pegawai tempatan melaporkan kebakaran berpunca daripada kelebihan phosphorous dan dikawal dengan pantas tanpa mudarat kepada alam sekitar. Sertai BBC Verify Rob Corp, penyunting BBC Verify Live BBC Verify menyiasat kebenaran di sebalik dakwaan, kenyataan politik, video media sosial, dan imej zon perang. Kami mengalu-alukan cadangan—jika anda nampak sesuatu yang mencurigakan dalam talian atau tertanya-tanya sama ada kandungan tersebut dihasilkan oleh AI atau adalah deepfake, hubungi kami di sini untuk meminta siasatan. Konteks: Protes ‘No Kings’ di AS Thomas Copeland, wartawan BBC Verify Live Kami membincangkan bagaimana chatbot AI Grok salah mengenal pasti rakaman udara protes anti-Trump ‘No Kings’ di Boston sebagai dari tahun 2017. Pada hari Sabtu, jutaan orang berhimpun di pelbagai bandar di AS termasuk Boston, New York, Washington DC, dan Miami untuk membantah polisi Trump. Koalisi No Kings, yang terdiri daripada kira-kira 300 kumpulan, mula mendapat perhatian dengan demonstrasi besar pada hari lahir Trump pada bulan Jun. Politikus konservatif mengkritik acara berkenaan sementara penganjur melaporkan sekitar tujuh juta peserta secara aman di seluruh negara. Apa itu carian imej terbalik? Thomas Copeland, wartawan BBC Verify Live Carian imej terbalik adalah kaedah pengesahan utama di mana satu gambar atau bingkai video dimuat naik ke enjin carian untuk menjejaki kehadiran sebelumnya dalam talian, membantu mengesahkan bila dan di mana kandungan tersebut pertama kali muncul. Kami menggunakan alat seperti Google Lens, Bing, Yandex, dan lain-lain, setiap satu unggul dalam kawasan atau konteks berbeza. Untuk video, kami meneliti beberapa bingkai. Walaupun berkesan, carian imej terbalik tidak sempurna — contohnya, rakaman baharu yang benar-benar baru tidak dapat ditemui dengan cara ini. Oleh itu, kami menjalankan pelbagai pemeriksaan untuk memastikan keaslian. Video lama Gaza menunjukkan lelaki dipukul dan ditembak Kumar Malhotra, wartawan kanan BBC Verify Minggu lepas, kami mengesahkan video pengeksekusian awam Hamas di Gaza City. Pada hari Ahad, satu lagi rakaman graf muncul menunjukkan seorang lelaki tanpa baju dengan tangan tergari sedang ditarik, dipukul dan ditembak oleh lelaki yang memakai topeng. Klip ini, yang dikumpulkan lebih dari 700, 000 tontonan, diklaim sebagai rakaman terkini dan berkaitan Hamas. Bagaimanapun, carian imej terbalik menunjukkan rakaman tersebut bertarikh 3 Oktober 2024.

Kami tidak dapat mengesahkan identiti, walaupun rakan sekerja BBC Arab mencadangkan lelaki terbabit berbicara dengan loghat Gaza. Rakaman lama sering muncul semula dalam konflik, jadi pengesahan masa adalah penting. Mengapa chatbot AI kadangkala mengada-adakan maklumat Thomas Copeland, wartawan BBC Verify Live Grok secara tidak tepat menandakan rakaman protes Boston sebagai dari tahun 2017. xAI, pembangun Grok, ditanya mengenai dakwaan ini. Kesilapan sebegini bukanlah perkara baharu; isu serupa timbul selepas protes di London. Dr. Peter Bentley, seorang saintis komputer dari UCL, menjelaskan bahawa AI berusaha memuaskan dengan memberikan jawapan yang munasabah berdasarkan data terhad—terutamanya data latihan dan kandungan dari internet. Dengan maklumat baharu seperti rakaman protes terkini, kekurangan data atau ketidakpastian menyebabkan AI menghasilkan jawapan salah yang yakin dikenali sebagai “halusinasi. ” Kebakaran di lombong arang batu Ukraine selepas serangan Rusia yang dilaporkan Fridon Kiria dan Thomas Copeland, BBC Monitoring dan BBC Verify Kami mengesahkan rakaman di Telegram yang menunjukkan kebakaran di sebuah lombong arang batu di Ternivka, wilayah Dnipropetrovsk, Ukraine, selepas serangan dron Rusia yang dilaporkan. Gambar satelit sepadan dengan ciri-ciri yang dilihat dalam video. Carian imej terbalik mengesahkan rakaman tersebut baru. Syarikat tenaga Ukraine, DTEK, mengesahkan serangan tersebut, dan memaklumkan bahwa 192 pelombong berada di bawah tanah tetapi semuanya selamat dipindahkan tanpa kecederaan. Ini merupakan serangan utama keempat terhadap lombong DTEK dalam dua bulan. Rakaman disahkan serangan Israel dan kesan di Gaza Benedict Garman, wartawan kanan BBC Verify Selepas menghentikan sementara gencatan senjata, Israel melancarkan serangan di Gaza sebagai tindak balas terhadap serangan Hamas yang didakwa. Kami mengesahkan video grafis yang menunjukkan kerosakan dan korban di beberapa lokasi, termasuk sebuah kafe di tepi pantai Az-Zawayda, sebuah padang sukan di Nuseirat, dan kawasan timur Khān Yūnis serta di belakang hospital al-Shifa di Gaza City. Rakaman menunjukkan rakyat awam yang cedera, termasuk kanak-kanak, dan kolum asap. Pengesahan masih diteruskan terhadap beberapa video tambahan dari Bureij, Nuseirat, Az-Zawayda, dan Sheikh Radwan. Klaim palsu chatbot AI Grok mengenai rakaman protes ‘No Kings’ Thomas Copeland, wartawan BBC Verify Live Grok secara salah mendakwa di X bahawa rakaman udara protes “No Kings” di Boston berasal dari 2017. Carian imej terbalik bagi beberapa bingkai video mengesahkan rakaman tersebut hanya muncul dalam talian selepas tarikh protes. Media tempatan menampilkan rakaman serupa yang mengesahkan butiran acara. Kesilapan Grok berpunca daripada “Community Note” yang tidak disahkan dan memetik pautan protes 2017 yang tidak berkaitan. Tangkap layar dakwaan Grok diedarkan secara meluas oleh penganjur pro-Trump untuk mempersoalkan kesahihan protes. Setelah siaran BBC Verify di X, Grok membetulkan kenyataannya dan malah memetik BBC Verify dalam kemas kini tersebut.