Undersøkelse av AI-"hallusinasjoner" og søndagens Gaza-utslipp Thomas Copeland, BBC Verify Live-journalist Når vi forbereder oss på å avslutte denne live-dekningen, her er en oppsummering av dagens nøkkelhistorier. AI-chatboten Grok påstod feilaktig på X at luftbilder av en anti-Trump-protest i Boston på lørdag var fra 2017. Vi analyserte hvorfor Grok gjorde denne feilen, hvordan feilinformasjonen spredte seg på nettet, og hvordan reverse image-søk hjalp med å avkrefte påstanden. En ekspert forklarte hvorfor AI-chatbots noen ganger “hallusinerer” eller produserer falsk informasjon. I mellomtiden rapporterte Israels militær at de gjennomførte angrep mot Hamas i Gaza på søndag, med anklager om brudd på våpenhvile fra begge sider. Vårt team vurderte videoer som sirkulerte av en mann som ble slått og skutt av maskerte menn i Gaza. Til tross for nylige innlegg, viste reverse image-søk at opptakene er over ett år gamle. I tillegg verifiserte vi opptak av en massiv eksplosjon og brann ved et kjemisk fabrikkanlegg i Jiangyin, østlige Kina. Videoen viser intense flammer og røyk; lokale myndigheter bekreftet at hendelsen involverte fosforoverskudd, men at den ble kontrollert innen cirka 50 minutter, uten miljøforurensning. BBC Verify Live er fortsatt innlogget for å verifisere bilder og overvåke pågående saker, og vender tilbake i morgen. Video av kinesisk kjemisk anlegg-eksplosjon verifisert Yi Ma og Kumar Malhotra, BBC Verify Vi autentiserte videoen som viser en stor brann forårsaket av en eksplosjon ved Chengxing-kjemisk anlegg i Jiangyin, Jiangsu-provinsen. Bygningen og omgivende grøntområder i opptaket ble matchet med satellittbilder fra Google Earth. Reverse image-søk bekreftet at videoen er nylig. Lokale tjenestemenn rapporterte at brannen skyldtes fosforoverskudd og ble raskt kontrollert uten miljøskade. Bli med i BBC Verify Rob Corp, BBC Verify Live-redaktør BBC Verify avdekker sannheten bak påstander, politiske uttalelser, videoer på sosiale medier og bilder fra krigssoner. Vi tar imot forslag—om du ser noe mistenkelig på nettet eller lurer på om innhold er generert av AI eller er en deepfake, kontakt oss her for å be om en undersøkelse. Kontekst: “No Kings”-protestene i USA Thomas Copeland, BBC Verify Live-journalist Vi dekket hvordan AI-chatboten Grok feilaktig identifiserte luftbilder av Boston sin “No Kings” anti-Trump-protest som fra 2017. På lørdag samlet millioner seg i byer over hele USA, inkludert Boston, New York, Washington DC og Miami, for å protestere mot Trumps politikk. Alliansen No Kings, som består av rundt 300 grupper, fikk først oppmerksomhet med store demonstrasjoner på Trumps bursdag i juni. Høyre-orienterte politikere kritiserte arrangementene, mens organisatørene rapporterte omtrent syv millioner fredelige deltakere over hele landet. Hva er reverse image-søk? Thomas Copeland, BBC Verify Live-journalist Reverse image-søk er en viktig verifiseringsmetode der man laster opp et bilde eller et videoramme til en søkemotor for å spore tidligere forekomster på nettet, noe som hjelper med å bekrefte når og hvor innholdet først dukket opp. Vi bruker verktøy som Google Lens, Bing, Yandex og andre, hver med fordeler i ulike regioner eller kontekster. For videoer undersøker vi flere rammer. Selv om dette er effektivt, er det ikke perfekt—for eksempel vil ikke helt nye opptak kunne finnes på denne måten. Derfor gjennomfører vi flere sjekker for å sikre ektheten. Gammelt Gaza-opptak viser mann som blir slått og skutt Kumar Malhotra, BBC Verify seniorjournalist I forrige uke verifiserte vi videoer av Hamas-utførelser i Gaza by. På søndag dukket et annet grafisk opptak opp, som viste en skjeggløs mann med bundne hender som ble dratt, slått og skutt av maskerte menn. Klippet, som har fått over 700. 000 visninger, ble påstått å være nylig og knyttet til Hamas. Men reverse image-søk daterte det til 3.

oktober 2024. Vi kan ikke bekrefte identitetene, men BBC Arabic-kolleger antyder at mennene snakker med Gaza-aksenter. Gamle videoer dukker ofte opp igjen i konflikter, så det er viktig å verifisere tidspunktet. Hvorfor AI-chatbots noen ganger lager opp informasjon Thomas Copeland, BBC Verify Live-journalist AI-chatboten Grok datet feilaktig opptak av protesten i Boston til 2017. xAI, Groks utvikler, ble spurt om disse påstandene. Slike feil er ikke nye; et lignende problem oppstod etter protestene i London. Dr. Peter Bentley, datavitenskapsmann ved UCL, forklarer at AI-er forsøker å tilfredsstille ved å gi plausible svar basert på begrenset data—hovedsakelig treningsdata og innhold fra internett. Når det gjelder ny informasjon som ferske protestopptak, kan datamangel eller feilaktige data føre til at AI genererer feilaktige, selvsikre svar kjent som “hallusinasjoner”. Brann ved ukrainsk kullgruve etter påstått russisk angrep Fridon Kiria og Thomas Copeland, BBC Monitoring og BBC Verify Vi verifiserte opptak på Telegram som viser en brann ved en kullgruve i Ternivka, Dnipropetrovsk-regionen, Ukraina, etter et påstått russisk droneangrep. Satellittbilder samsvarte med funksjoner sett i videoen. Reverse image-søk bekreftet at opptakene er nye. Den ukrainske energibedriften DTEK bekreftet angrepet, og opplyste at 192 gruveskyssler var under jorden, men at alle ble evakuert sikkert uten skader. Dette var det fjerde store fiendtlighetsangrepet mot DTEK-gruver på to måneder. Verifisert video av israelske angrep og Gaza-etterspill Benedict Garman, BBC Verify seniorjournalist Etter en midlertidig våpenhvilebrudd gjennomførte Israel angrep i Gaza som gjengjeldelse for et påstått Hamas-angrep. Vi verifiserte grafiske videoer som viser skader og tap av liv på flere steder, blant annet en strandkafé i Az-Zawayda, en idrettsplass i Nuseirat, og områder øst for Khan Younis og bak al-Shifa-sykehuset i Gaza by. Opptakene viser skadde sivile, inkludert barn, og røykpellets. Verifisering pågår for ytterligere videoer fra Bureij, Nuseirat, Az-Zawayda og Sheikh Radwan. AI-chatbot Groks falske påstand om “No Kings”-protestmateriale Thomas Copeland, BBC Verify Live-journalist Grok påsto feilaktig på X at luftbilder av Boston sin “No Kings”-protest var fra 2017. Reverse image-søk av flere videorammer bekreftet at opptakene bare dukket opp på nettet etter protesten. Lokalmedia viste lignende opptak som bekreftet hendelsesdetaljene. Groks feil oppstod fra en uautoristert “Community Note” som siterte irrelevant 2017-protestlenker. Skjermbilder av Groks påstand ble bredt delt av pro-Trump-influencere for å stille spørsmål ved protestens legitimitet. Etter et BBC Verify-innlegg på X, korrigerte Grok uttalelsen og siterte til og med BBC Verify i sin oppdatering.