В сотрудничестве с Всемирным еврейским конгрессом доклад ЮНЕСКО раскрывает, что все большее использование генеративного искусственного интеллекта (ГИИ) учащимися для выполнения заданий и доступа к информации онлайн представляет риск получения искаженной информации о Холокосте. Такое дезинформирование находит новые пути распространения через созданное ГИИ-контент. Учитывая, что 80% молодежи в возрасте от 10 до 24 лет ежедневно используют ГИИ в различных целях, включая образование и развлечения, крайне важно принять немедленные меры для этического руководства этими новыми технологиями. Доклад подчеркивает, что ГИИ способен поглощать и усиливать социальные предубеждения. Поскольку системы искусственного интеллекта обучаются на большом объеме данных, часто полученных из интернета, существует возможность включения в них ложной или вредоносной информации, что позволяет наследование человеческих предрассудков и потенциальное искажение информации о конкретных событиях, в частности о Холокосте. В докладе отмечается, что недостаточное наблюдение, руководство и модерация со стороны разработчиков ГИИ могут привести к обучению генеративных инструментов ГИИ на данных с веб-сайтов, отрицающих Холокост. Кроме того, обнаружено, что искусственный интеллект способствует искажению контента, связанного с Холокостом, созданием выдуманных свидетельств и изменением исторических документов. Изображения и аудиоматериалы, созданные с использованием ГИИ, особенно убедительны и сталкивают молодых людей с таким контентом на платформах социальных медиа. Приложение Historical Figures позволило пользователям взаимодействовать с известными нацистами, такими как Адольф Гитлер и Иосиф Геббельс, неправдиво утверждая, что такие личности, как Геббельс, не участвовали в Холокосте и пытались предотвратить насилие против евреев. ГИИ-модели подвержены изобретению или "галлюцинациям" событий, личностей и даже исторических явлений при недостаточности данных. В докладе акцентируются случаи, когда ChatGPT и Bard от Google создавали контент, описывающий события, связанные с Холокостом, которые никогда не происходили.

Например, ChatGPT полностью выдумал идею "кампаний Холокоста утоплением", утверждая, что нацисты тонили евреев в реках и озерах. Bard также генерировал поддельные цитаты от свидетелей, чтобы поддержать искаженные рассказы о погромах во время Холокоста. Помимо рисков манипуляции и "галлюцинаций", подрывающих установленные факты и подрыва доверия к экспертам, в докладе привлекается внимание к опасностям простого представления сложной истории Интернете за счет предпочтения ограниченного набора источников и событий. Интернет-поисковики, работающие на базе искусственного интеллекта, показывают 60-80% изображений на тему Холокоста, связанных с одним конкретным местом - Аушвиц-Биркенау. В качестве решения ЮНЕСКО призывает правительства ускорить реализацию своей Рекомендации по этике искусственного интеллекта, которая была единообразно принята государствами-членами в 2021 году и является единственным глобальным стандартом в этой области. Эта Рекомендация уже внедряется в законодательство более чем пятидесяти стран. Кроме того, ЮНЕСКО призывает технологические компании придерживаться ее стандартов, вводя принципы справедливости, прозрачности, прав человека и должной осмотрительности в разработку приложений искусственного интеллекта. В феврале 2024 года восьмь технологических компаний первыми обязались применять этический подход к разработке новых инструментов ГИИ по просьбе Генерального директора ЮНЕСКО. Рекомендуется тесное сотрудничество технологических компаний с еврейской общиной, выжившими Холокоста и их потомками, педагогами, экспертами по антисемитизму и историками при разработке новых инструментов ГИИ. Более того, ЮНЕСКО обращается к системам образования с призывом сыграть роль в защите фактов о Холокосте, оснащая молодежь цифровой грамотностью, критическим мышлением и всесторонним пониманием истории этого геноцида.