Изучение «галлюцинаций» ИИ и взрывы в Газе в воскресенье Томас Коупленд, журналист BBC Verify Live Готовясь завершить эту прямую трансляцию, подведем итоги ключевых событий сегодняшнего дня. Искусственный интеллект-чатбот Grok ошибочно заявил в X, что воздушное видео анти-Трамповского протеста в Бостоне, снятое в субботу, датируется 2017 годом. Мы проанализировали причины этой ошибки Grok, как дезинформация распространялась в интернете и как обратные поиски изображений помогли опровергнуть это утверждение. Эксперт объяснил, почему иногда ИИ-чатботы «галлюцинируют» или создают ложную информацию. Тем временем, израильская армия сообщила о нанесенных бомбардировках по сектору Газа в воскресенье, при этом имеются обвинения с обеих сторон в нарушениях режима прекращения огня. Наша команда изучила видео, на котором мужчина избит и застрелен в Газе маскированными людьми. Несмотря на недавние публикации, обратные поиски изображений показали, что это видео более чем годовой давности. Дополнительно мы проверили кадры большого взрыва и пожара на химическом заводе в Цзяжуне, Восточный Китай. В видео видно мощные пламя и дым; местные власти подтвердили, что инцидент произошел из-за переполнения фосфора, но был быстро ликвидирован — примерно за 50 минут, без выявленных экологических загрязнений. BBC Verify Live остается подключенным для проверки изображений и отслеживания текущих событий, возвращаемся завтра. Видео взрыва на китайском химическом заводе подтверждено Йи Ма и Кумар Малhotра, BBC Verify Мы подтвердили подлинность видео, на котором видно крупный пожар, вызванный взрывом на химическом заводе Чэнсин в Цзяжуне, провинция Цзянсу. Структуры и окружающая зелень на кадрах совпадают с спутниковыми снимками Google Earth. Обратные поиски изображений подтвердили недавнее происхождение видео. Местные власти сообщили, что пожар возник из-за переполнения фосфора и был быстро локализован без вреда для окружающей среды. Присоединяйтесь к BBC Verify Роб Корп, редактор BBC Verify Live BBC Verify расследует правду за утверждениями, политическими заявлениями, видео в соцсетях и изображениями из зон боевых действий. Мы принимаем предложения — если вы заметили что-то подозрительное онлайн или сомневаетесь, создан ли контент ИИ или это дипфейк, свяжитесь с нами здесь для проведения расследования. Контекст: протесты «Нет Королей» в США Томас Коупленд, журналист BBC Verify Live Мы рассказывали о том, как ИИ-чатбот Grok ошибочно определил воздушное видео анти-Трамповского протеста «Нет Королей» в Бостоне как из 2017 года. В субботу миллионы человек собралиcь в городах США, включая Бостон, Нью-Йорк, Вашингтон и Майами, чтобы протестовать против политики Трампа. Коалиция «Нет Королей», включающая около 300 групп, впервые привлекла внимание крупными митингами в день рождения Трампа в июне. Консервативные политики критиковали эти акции, тогда как организаторы сообщили о примерно семи миллионах мирных участников по всей стране. Что такое обратный поиск изображений? Томас Коупленд, журналист BBC Verify Live Обратный поиск изображений — это важный метод проверки, при котором фотография или кадр видео загружаются в поисковую систему для поиска прошлых аналогов в интернете, что помогает установить, когда и где впервые появилось содержимое. Мы используем такие инструменты, как Google Lens, Bing, Yandex и другие, каждый из которых лучше работает в определенных регионах или контекстах. Для видео мы анализируем несколько кадров. Хотя этот метод эффективен, он не дает 100% гарантии — например, новейшие кадры найти так невозможно. Поэтому мы проводим несколько проверок для подтверждения подлинности. Ранее опубликованное видео из Газы с избитым мужчиной Кумар Малhotра, старший журналист BBC Verify На прошлой неделе мы проверяли видео публичных казней на боевом секторе Газе. В воскресенье появилось еще одно жестокое видео, на котором запеленутого мужчину без рубашки, которого тянут, избивают и застреливают маскированные люди. Этот ролик, собравший более 700 000 просмотров, был заявлен как недавний и связанный с Хамас.

Однако обратные поиски датировали его 3 октября 2024 года. Мы не можем точно установить личности, хотя коллеги из BBC Arabic предполагают, что мужчины говорят с гагаузским акцентом. Старые видео часто всплывают в условиях конфликтов, поэтому важно подтвердить точную дату. Почему ИИ-чатботы иногда придумывают ложную информацию Томас Коупленд, журналист BBC Verify Live Грелка-чатбот Grok неправильно указал 2017 год для протеста в Бостоне. Разработчик Grok — компания xAI — была спрошена о таких ошибках. Эти ошибки не новы: похожая ситуация произошла после протестов в Лондоне. Доктор Питер Бентли, специалист по компьютерным наукам из UCL, объясняет, что ИИ стремится угодить и дать правдоподобный ответ, опираясь на ограниченные данные — в основном на тренировочные и интернет-источники. При появлении новой информации, например свежих кадров протеста, нехватка данных или их ошибки вызывают у ИИ уверенные и неверные ответы — так называемые «галлюцинации». Пожар на угольной шахте в Украине после предполагаемой российской атаки Фридон Кирия и Томас Коупленд, BBC Monitoring и BBC Verify Мы проверили видео в Telegram, показывающее пожар на угольной шахте в Тэрнивке, регионе Днепропетровска, Украина, после сообщения о российском ударе беспилотником. Спутниковые снимки совпали с изображениями в видео. Обратные поиски подтвердили, что видео новое. Украинская энергетическая компания DTEK подтвердила удар, сообщили, что под землей находились 192 шахтера, все были эвакуированы без травм. Это уже четвертая крупная атака врага на шахты DTEK за два месяца. Подтвержденные кадры израильских ударов и последствий в Газе Бенедикт Горман, старший журналист BBC Verify После временного прекращения огня Израиль нанес удары по сектору Газа в ответ на предполагающую атаку Хамас. Мы проверили графические видео с повреждениями и потерпевшими у нескольких объектов: кафе у пляжа в Аз-завейда, спортивного поля в Нусейрате и районов к востоку от Хан-Юниса и за больницей Аль-Шифа в Газе. На кадрах видно раненых гражданских, в том числе детей, и клубы дыма. Проверка продолжается и по другим видео из Бурея, Нусейрата, Аз-завейда и Шейха Радвана. Ложное утверждение ИИ-чатбота Grok о видео протеста «Нет Королей» Томас Коупленд, журналист BBC Verify Live Grok неправильно заявил в X, что воздушное изображе­­ние протеста «Нет Королей» в Бостоне — из 2017 года. Обратные поиски нескольких кадров подтвердили, что это видео появилось только после события. Местные СМИ показывали аналогичные кадры, подтверждающие детали митинга. Ошибка Grok возникла из-за неподтвержденной «Community Note», цитировавшей несвязанные с протестом 2017 года материалы. Скриншоты заявления Grok широко распространяли сторонники Трампа, чтобы поставить под сомнение легитимность протестов. После публикации BBC Verify на X, Grok исправил свой комментарий и даже цитировал BBC Verify в обновлении.