Onderzoek naar AI-'hallucinaties' en zondagse Gaza-bombardementen Thomas Copeland, BBC Verify Live-verslaggever Terwijl we deze live-uitzending afsluiten, hier een samenvatting van de belangrijkste verhalen van vandaag. De AI-chatbot Grok beweerde onjuist op X dat luchtbeelden van een anti-Trump protest in Boston van zaterdag uit 2017 kwamen. We analyseerden waarom Grok deze fout maakte, hoe de desinformatie online verspreid werd en legden uit hoe reverse image searches hebben geholpen om de bewering te ontkrachten. Een expert legde uit waarom AI-chatbots soms “hallucineren” of valse informatie produceren. Ondertussen meldde het Israëlische leger dat ze op zondag strikes uitvoerden tegen Hamas in Gaza, met beschuldigingen van schendingen van het staakt-het-vuren van beide zijden. Ons team onderzocht video's die circuleren van een man die met kloppend hoofd wordt geslagen en geschoten door gemaskerde mannen in Gaza. Ondanks recente berichten toonde reverse image search dat de beelden ouder dan een jaar zijn. Daarnaast verifieerden we beelden van een enorme explosie en brand bij een chemische fabriek in Jiangyin, in Oost-China. De video toont hevige vlammen en rook; lokale autoriteiten bevestigden dat het incident een phosphorus-overflow betrof, maar dat het binnen ongeveer 50 minuten onder controle was, zonder milieuschade. BBC Verify Live blijft ingelogd om beelden te verifiëren en lopende verhalen te volgen, we gaan morgen weer verder. Video van explosie in Chinese chemische fabriek geverifieerd Yi Ma en Kumar Malhotra, BBC Verify We hebben een video geverifieerd waarop een grote brand te zien is door een explosie bij de chemische fabriek Chengxing in Jiangyin, in de provincie Jiangsu. De structuur en het omliggende groen in de beelden werden matched met satellietbeelden van Google Earth. Reverse image searches bevestigden dat de video recent is. Lokale officials meldden dat de brand voortkwam uit phosphorus-overflow en snel onder controle was zonder milieuschade. Word lid van BBC Verify Rob Corp, BBC Verify Live-editor BBC Verify onderzoekt de waarheid achter beweringen, politieke uitspraken, social media-video’s en beelden uit oorlogsgebieden. We staan open voor suggesties — als je iets verdachts online ziet of vermoedt dat content AI-gegenereerd of een deepfake is, neem dan contact met ons op voor een onderzoek. Context: ‘No Kings’-protesten in de VS Thomas Copeland, BBC Verify Live-verslaggever We behandelden hoe AI-chatbot Grok onterecht luchtbeelden van het anti-Trump protest ‘No Kings’ in Boston uit 2017 identificeerde. Zaterdag verzamelden miljoenen mensen in Amerikaanse steden zoals Boston, New York, Washington DC en Miami om te protesteren tegen Trumps beleid. De coalitie No Kings, met zo’n 300 groepen, kreeg voor het eerst aandacht met grote demonstraties op Trump’s verjaardag in juni. Conservatieve politici bekritiseerden de evenementen, terwijl organisatoren meldden dat het ongeveer zeven miljoen vreedzame deelnemers waren. Wat is reverse image search? Thomas Copeland, BBC Verify Live-verslaggever Reverse image search is een belangrijke verificatiemethode waarbij een foto of videofragment wordt geüpload naar een zoekmachine om eerdere voorbeelden online te traceren, waardoor wordt bevestigd wanneer en waar de content voor het eerst verscheen. We gebruiken tools zoals Google Lens, Bing, Yandex en anderen, elk gespecialiseerd in verschillende regio’s of contexten. Bij video’s bekijken we meerdere frames. Hoewel effectief, is reverse image search niet waterdicht; bijvoorbeeld, echt nieuwe beelden kunnen zo niet worden gevonden. Daarom voeren we meerdere checks uit om de echtheid zeker te stellen. Oud Gaza-video toont man die wordt geslagen en geschoten Kumar Malhotra, senior journalist BBC Verify Vorige week verifieerden we video’s van publieke executies door Hamas in Gaza-stad. Zondag kwam er een andere grafische video uit waarop een blootgeschoten man met geboeid handen wordt gesleept, geslagen en geschoten door gemaskerde mannen. De clip, die meer dan 700. 000 views verzamelde, werd als recent gepresenteerd en gelinkt aan Hamas. Echter, reverse image search bevestigde dat de beelden dateren van 3 oktober 2024.

We kunnen de identiteiten niet bevestigen, hoewel collega’s van BBC Arabisch aangeven dat de mannen Gaza-accenten spreken. Oud beeldmateriaal duikt vaak op tijdens conflicten, dus het is cruciaal om de timing te verifiëren. Waarom AI-chatbots soms informatie fabriceren Thomas Copeland, BBC Verify Live-verslaggever De AI-chatbot Grok dateerde de protestbeelden in Boston per ongeluk op 2017. xAI, de ontwikkelaar van Grok, werd hierover bevraagd. Zulke fouten zijn niet nieuw; een soortgelijke situatie deed zich voor na protesten in Londen. Dr. Peter Bentley, computerwetenschapper aan UCL, legt uit dat AI’s elk proberen te behagen door plausibele antwoorden te geven op basis van beperkte data — voornamelijk trainingsdata en internetcontent. Bij nieuwe informatie, zoals verse protestbeelden, zorgt dat gebrek aan data of onjuistheden ervoor dat AI foutieve, zelfverzekerde antwoorden genereert, bekend als “hallucinaties. ” Brand bij Oekraïense steenkoolmijn na vermeende Russische aanval Fridon Kiria en Thomas Copeland, BBC Monitoring en BBC Verify We verifieerden beelden op Telegram die een brand tonen bij een steenkoolmijn in Ternivka, in de regio Dnipropetrovsk, Oekraïne, na een vermeende Russische drone-aanval. Satellietbeelden matcheden de kenmerken op de beelden. Reverse image searches bevestigden dat de beelden recent waren. Oekraïense energieleverancier DTEK bevestigde de aanval en meldde dat 192 mijnwerkers ondergronds waren, maar allemaal veilig werden geëvacueerd zonder verwondingen. Dit was de vierde grote aanval van de vijand op DTEK-mijnen in twee maanden. Geverifieerde beelden van Israëlische strikes en nasleep Gaza Benedict Garman, senior journalist BBC Verify Na een tijdelijke onderbreking van het staakt-het-vuren voerde Israël aanvallen uit in Gaza uit wraak voor een vermeende Hamas-aanval. We verifieerden grafische beelden die schade en slachtoffers laten zien op meerdere locaties, waaronder een strandcafé in Az-Zawayda, een sportveld in Nuseirat en gebieden oost van Khan Younis en achter het al-Shifa-ziekenhuis in Gaza-stad. De beelden tonen gewonde burgers, waaronder kinderen, en rookpluimen. Het verificatieproces loopt door voor additional beelden uit Bureij, Nuseirat, Az-Zawayda en Sheikh Radwan. AI-chatbot Grok’s valse bewering over ‘No Kings’-protestbeelden Thomas Copeland, BBC Verify Live-verslaggever Grok stelde onterecht op X dat luchtbeelden van Boston’s ‘No Kings’-protest uit 2017 kwamen. Reverse image searches van meerdere videofragmenten bevestigden dat de beelden pas na de protestdatum online verschenen. Lokale media toonden vergelijkbare beelden die de details van het evenement bevestigden. Grok’s fout kwam voort uit een ongeautoriseerde ‘Community Note’ die ongerelateerde links naar protesten uit 2017 citeerde. Screenshots van Grok’s bewering werden breed gedeeld door pro-Trump-influencers om de legitimiteit van het protest in twijfel te trekken. Na een BBC Verify-bericht op X herzag Grok zijn verklaring en citeerde zelfs BBC Verify in zijn update.