Untersuchung von KI-'Halluzinationen' und Sonntagsattacken auf Gaza Thomas Copeland, BBC Verify Live Journalist Während wir diese Live-Berichterstattung abschließen, hier eine Zusammenfassung der wichtigsten Nachrichten des Tages. Der KI-Chatbot Grok behauptete fälschlicherweise auf X, dass Aufnahmen eines Anti-Trump-Protests in Boston vom Samstag aus dem Jahr 2017 stammten. Wir analysierten, warum Grok diesen Fehler machte, wie die Fehlinformationen sich online verbreiteten, und erläuterten im Detail, wie Reverse-Image-Suchen dazu beitrugen, die Behauptung zu widerlegen. Ein Experte erklärte, warum KI-Chatbots manchmal „halluzinieren“ oder falsche Informationen erzeugen. Inzwischen berichtete das israelische Militär, dass es am Sonntag Angriffe gegen Hamas im Gazastreifen durchgeführt habe, wobei es auf beiden Seiten zu Verstößen gegen die Waffenruhe kam. Unser Team prüfte circulating Videos, die zeigen, wie ein Mann von maskierten Männern geschlagen und erschossen wird in Gaza. Trotz aktueller Postings zeigte die Rückwärtssuche, dass das Material über ein Jahr alt ist. Zusätzlich verifizierten wir Aufnahmen einer massiven Explosion und eines Brandes in einem Chemiewerk in Jiangyin, Ostchina. Das Video zeigt intensive Flammen und Rauch; lokale Behörden bestätigten, dass es sich um einen Phosphorüberschuss handelte, der innerhalb von etwa 50 Minuten eingedämmt wurde, ohne Umweltverschmutzung zu verursachen. BBC Verify Live bleibt eingeschaltet, um Bilder zu verifizieren und laufende Geschichten zu überwachen. Wir sind morgen wieder zurück. Video der Explosion in chinesischem Chemiewerk verifiziert Yi Ma und Kumar Malhotra, BBC Verify Wir konnten ein Video authentifizieren, das einen Großbrand durch eine Explosion im Chemiewerk Chengxing in Jiangyin, Jiangsu-Provinz, zeigt. Das Gebäude und die umliegende Vegetation wurden mit Satellitenbildern von Google Earth abgeglichen. Die Rückwärtssuche bestätigte, dass das Video kürzlich entstand. Lokale Behörden berichteten, dass der Brand durch einen Phosphorüberschuss verursacht wurde und rasch unter Kontrolle gebracht wurde, ohne Umweltgefahren. Schließen Sie sich BBC Verify an Rob Corp, BBC Verify Live Editor BBC Verify untersucht die Wahrheit hinter Behauptungen, politischen Statements, Social-Media-Videos und Bildern aus Kriegsgebieten. Wir freuen uns über Vorschläge – wenn Sie online etwas Verdächtiges sehen oder sich fragen, ob Inhalte KI-generiert oder ein Deepfake sind, kontaktieren Sie uns hier, um eine Untersuchung zu beantragen. Kontext: „No Kings“-Proteste in den USA Thomas Copeland, BBC Verify Live Journalist Wir berichteten, wie der KI-Chatbot Grok fälschlicherweise Luftaufnahmen des „No Kings“-Anti-Trump-Protests in Boston als aus dem Jahr 2017 stammend identifizierte. Am Samstag versammelten sich Millionen in US-Städten wie Boston, New York, Washington D. C. und Miami, um gegen Trumps Politik zu protestieren. Die Koalition No Kings, bestehend aus etwa 300 Gruppen, erregte erstmals Aufmerksamkeit bei großen Demonstrationen an Trumps Geburtstag im Juni. Konservative Politiker kritisierten die Veranstaltungen, während die Organisatoren von etwa sieben Millionen friedlichen Teilnehmern im ganzen Land berichteten. Was ist eine Reverse-Image-Suche? Thomas Copeland, BBC Verify Live Journalist Die Reverse-Image-Suche ist eine wichtige Methode der Verifikation, bei der ein Foto oder ein Videoausschnitt in eine Suchmaschine hochgeladen wird, um vorherige Instanzen online zu finden. Damit kann man herausfinden, wann und wo der Inhalt erstmals auftauchte. Wir verwenden Tools wie Google Lens, Bing, Yandex und andere, die in verschiedenen Regionen oder Kontexten unterschiedliche Vorteile haben. Bei Videos prüfen wir mehrere Frames. Obwohl diese Methode effektiv ist, ist sie nicht narrensicher – beispielsweise kann echtes neues Filmmaterial so nicht gefunden werden. Deshalb führen wir mehrere Checks durch, um die Echtheit zu sichern. Altes Gaza-Video zeigt Mann, der geschlagen und erschossen wird Kumar Malhotra, BBC Verify Senior Journalist Letzte Woche verifizierten wir Videos von öffentlichen Hinrichtungen durch Hamas in Gaza-Stadt. Am Sonntag tauchte ein weiteres grafisches Video auf, das einen Oberkörperlosen zeigt, dessen gefesselte Hände gezogen, geschlagen und von maskierten Männern erschossen werden. Das Clip, das über 700. 000 Aufrufe hat, wurde als neu angegeben und mit Hamas in Verbindung gebracht.

Die Rückwärtssuche datierte es allerdings auf den 3. Oktober 2024. Die Identitäten können wir nicht bestätigen, doch BBC-Arabisch-Kollegen vermuten, dass die Männer mit Gaza-Akzent sprechen. Alte Videos tauchen oft im Konflikt auf, daher ist die zeitliche Einordnung entscheidend. Warum KI-Chatbots manchmal falsche Informationen erfinden Thomas Copeland, BBC Verify Live Journalist Der KI-Chatbot Grok datierte das Boston-Protest-Video fälschlicherweise auf 2017. xAI, der Entwickler von Grok, wurde zu diesen Behauptungen befragt. Solche Fehler sind keine Seltenheit; ein ähnliches Problem trat nach Protesten in London auf. Dr. Peter Bentley, Informatiker an der UCL, erklärt, dass KIs bestrebt sind, zu gefallen, indem sie plausibel klingende Antworten mit begrenzten Daten geben – vor allem mit Trainingsdaten und Internetinhalten. Bei neuen Informationen wie aktuellen Protestaufnahmen fehlen häufig Daten, oder sie sind ungenau, was dazu führt, dass die KI falsche, selbstsichere Antworten, sogenannte „Halluzinationen“, erzeugt. Feuer in ukrainischem Kohlebergwerk nach angeblichem russischem Angriff Fridon Kiria und Thomas Copeland, BBC Monitoring und BBC Verify Wir verifizierten Aufnahmen auf Telegram, die ein Feuer in einem Kohlebergwerk in Terniwka, Dnipropetrowsk, Ukraine, nach einem angeblichen russischen Drohnenangriff zeigen. Satellitenbilder stimmten mit den im Video sichtbaren Merkmalen überein. Die Rückwärtssuche bestätigte, dass das Material neu ist. Das ukrainische Energieunternehmen DTEK bestätigte den Angriff und berichtete, dass 192 Bergleute unter Tage waren, alle jedoch sicher evakuiert wurden ohne Verletzungen. Es war der vierte größere Angriff des Feindes auf DTEK-Bergwerke innerhalb von zwei Monaten. Verifizierte Aufnahmen israelischer Angriffe und Folgen in Gaza Benedict Garman, BBC Verify Senior Journalist Nach einer vorübergehenden Waffenruhe führte Israel Angriffe in Gaza durch, um auf einen angeblichen Hamas-Angriff zu reagieren. Wir überprüften grafische Videos, die Schäden und Verluste an verschiedenen Orten zeigen, darunter ein Café am Strand in Az-Zawayda, ein Sportfeld in Nuseirat sowie Gebiete östlich von Khan Younis und hinter dem Krankenhaus al-Shifa in Gaza-Stadt. Die Aufnahmen zeigen verletzte Zivilisten, darunter Kinder, und Rauchschwaden. Die Verifizierung läuft auch bei weiteren Videos aus Bureij, Nuseirat, Az-Zawayda und Sheikh Radwan. Falsche Behauptung des KI-Chatbots Grok über das „No Kings“-Protest-Video Thomas Copeland, BBC Verify Live Journalist Grok behauptete fälschlicherweise auf X, dass Luftaufnahmen des „No Kings“-Protests in Boston aus 2017 stammten. Rückwärtssuchen in mehreren Video-Frames bestätigten, dass die Aufnahmen erst nach dem Protest online erschienen sind. Lokale Medien zeigten ähnliche Aufnahmen, die die Ereignisse bestätigen. Groks Fehler rührte von einem unautorisierten „Community Note“ her, das unbegründet auf Links zu Protesten aus 2017 verwies. Screenshots von Groks Behauptung wurden breit von pro-Trump Influencern geteilt, um die Legitimität des Protests in Zweifel zu ziehen. Nach einem Beitrag von BBC Verify auf X korrigierte Grok seine Aussage und zitierte sogar BBC Verify in seinem Update.