Изследване на „галюцинации“ на изкуствения интелект и взривовете в Газа в неделя Томас Купланд, журналист от BBC Verify Live Докато се готвим да приключим това живо предаване, ето кратко обобщение на ключовите новини днес. Chatbot-ът със изкуствен интелект Grok неправилно заяви в Twitter, че въздушни кадри на анти-Тръмп протест в Бостън от събота са от 2017 година. Анализирахме защо Grok направи тази грешка, как дезинформацията се разпространи в интернет и подробно обяснихме как обратните търсения с изображения помогнаха да се опровергае твърдението. Експерт обясни защо чатботовете с изкуствен интелект понякога „галюцинират“ или създават лъжлива информация. Междувременно армията на Израел съобщи за проведени удари срещу Хамас в Газа в неделя, с обвинения за нарушения на примирието от двете страни. Нашият екип прегледа видеоклипове, които циркулират, на мъж, бит и прострелян от маскирани мъже в Газа. Въпреки последните публикации, обратните търсения с изображения показаха, че видеото е на повече от година. Освен това проверихме кадри от масов взрив и огън в химически завод в Джънгин, Изток Китай. Видеото показва силен пламък и дим; местните власти потвърдиха, че инцидентът е свързан с преливане на фосфор, което е било овладяно за около 50 минути, без да има замърсяване на околната среда. BBC Verify Live остава в системата, за да проверява изображения и да следи текущи събития, и ще се върне утре. Видео от взрив в китайски химически завод потвърдено Ї Ма и Кумар Махотра, BBC Verify Потвърдихме автентичността на видео, показващо голям пожар, причинен от експлозия в химическия завод Ченсинг в Джънгин, провинция Джъдзян. Структурата и околната зеленина в кадрите бяха съпоставени със спутникови изображения от Google Earth. Обратните търсения с изображения потвърдиха, че видеото е било неотдавнашно. Местните власти съобщиха, че пожарът е бил причинен от преливане на фосфор и е бил бързо овладян без вреди за околната среда. Присъединете се към BBC Verify Роб Корп, редактор на BBC Verify Live BBC Verify разследва истината зад твърденията, политическите изказвания, видеоклиповете в социалните мрежи и изображения от зони на война. Приветстваме предложения – ако видите нещо съмнително онлайн или се чудите дали съдържанието е генерирано от изкуствен интелект или е дълбока фалшификация, свържете се с нас тук, за да поискате разследване. Контекст: протестите „Без крале“ в САЩ Томас Купланд, журналист от BBC Verify Live Разказахме как чатботът с изкуствен интелект Grok погрешно идентифицира въздушните кадри на анти-Тръмп протеста „Без крале“ в Бостън като от 2017 година. В събота милиони хора се събраха в градове като Бостън, Ню Йорк, Вашингтон и Маями, за да протестират срещу политиките на Тръмп. Коалицията „Без крале“, включваща около 300 организации, първо привлече внимание с големи демонстрации на рождения ден на Тръмп през юни. Консервативни политици критикуваха събитията, а организаторите съобщиха за около седем милиона мирни участници в цялата страна. Какво е обратното търсене с изображения? Томас Купланд, журналист от BBC Verify Live Обратното търсене с изображения е важен метод за проверка, при който качваме снимка или кадър от видео в търсачка, за да проследим предишни случаи в интернет и да потвърдим кога и къде е била първоначално публикувана съдържанието. Использваме инструменти като Google Lens, Bing, Yandex и други, като всеки от тях е по-ефективен в различни региони или контексти. За видеа разглеждаме няколко кадъра. Макар и ефективно, обратното търсене с изображения не е безгрешно – например, нови кадри не могат да бъдат открити по този начин. Затова провеждаме няколко проверки, за да гарантираме автентичността. Старо видео от Газа, показващо бит и стрелба на мъж Кумар Махотра, старши журналист от BBC Verify Миналата седмица потвърдихме видеа от публични екзекуции на Хамас в Газа. В неделя се появи друго графично видео, показващо гол мъж с вързани ръце, който е дърпан, бит и прострелян от маскирани мъже. Клипът, събрал над 700 000 гледания, беше представен като ново и свързвано с Хамас.

Въпреки това, обратното търсене с изображения го датира на 3 октомври 2024 г. Не можем да потвърдим идентичността на участниците, но колеги от BBC Arabic предполагат, че мъжете говорят с газагски акцент. Старите видеа често се появяват отново по време на конфликти, затова е важно да се потвърди точният им срок. Защо чатботовете с изкуствен интелект понякога създават измислена информация Томас Купланд, журналист от BBC Verify Live Chatbot-ът Grok сгреши, като датира кадри от протеста в Бостън от 2017 година. Разработчикът на xAI, създателят на Grok, беше питан за тези твърдения. Такъв тип грешки не са нови; подобен проблем възникна след протести в Лондон. Доктор Питър Бентли, компютърен учен от UCL, обяснява, че AI системите се стремят да угодят, да дадат правдоподобен отговор, използвайки ограничени данни – основно обучителни данни и съдържание от интернет. При наличие на нова информация, като свежи кадри от протест, недостига на данни или неточности причиняват AI да създаде грешен, уверено звучащ отговор, известен като „галюцинации“. Пожар в мина за въглища в Украйна след предполагаем руски удар Фридон Кирия и Томас Купланд, съответно BBC Monitoring и BBC Verify Потвърдихме видеа в Telegram, които показват пожар в въглищна мина в Тернивка, Днепропетровска област, Украйна след съобщен руски удар с дрон. Спутникови изображения съвпаднаха с характеристиките в видеото. Обратните търсения с изображения потвърдиха, че видеото е ново. Украинската енергийна компания DTEK потвърди атака, като съобщи, че 192 миньори са били под земята, но всички са били успешно евакуирани без наранявания. Това беше четвъртият голям удар от врага по мините на DTEK за два месеца. Потвърдени кадри от израелски удари и последствията в Газа Бенедикт Горман, старши журналист в BBC Verify След временно прекъсване на примирието Израел предприе удари в Газа във ответ на предполагаем удар на Хамас. Потвърдихме графични видеа, показващи щети и загинали в няколко места, включително кафене близо до плажа в Аз-завад, спортно игрище в Нусейрат и области източно от Хан Юнис и зад болница „Шейх Радуан“ в град Газа. Видеата показват ранени цивилни, включително деца, и колони дим. Продължаваме проверките на допълнителни видеа от Буреј, Нусейрат, Аз-завад и Шейх Радуан. Грешките на чатбота Grok относно „Без крале“ протеста Томас Купланд, журналист от BBC Verify Live Grok неправилно посочи в Twitter, че въздушните кадри на протеста „Без крале“ в Бостън са от 2017 година. Обратните търсения с множество кадри от видеата потвърдиха, че той е появил се онлайн след датата на протеста. Местните медии показаха подобни кадри, които потвърждават подробностите за събитието. Грешката на Grok произтекла от непреките „Комюнити нот“ илюстриране на свързани протести от 2017 г. , като цитиране на несвързани линкове. Скрийншоти от твърденията на Grok бяха широко разпространени от прозападни влиятелни лица, които питаха за легитимността на протеста. След публикация на BBC Verify в Twitter, Grok коригира своето изказване и дори цитира BBC Verify в обновлението си.