I samarbejde med Verdens Jødiske Kongres afslører UNESCO-rapporten, at den stigende brug af Generativ AI af elever til at løse opgaver og få adgang til information online udgør en risiko for udsættelse for forvrænget information om Holocaust. Sådan misinformation har fundet nye veje til spredning gennem AI-genereret indhold. Da 80% af unge mellem 10 og 24 år nu dagligt bruger AI til forskellige formål, herunder uddannelse og underholdning, er det afgørende, at der træffes øjeblikkelig handling for etisk at guide disse nye teknologier. Rapporten fremhæver, at Generativ AI har evnen til at absorbere og forstærke samfundsmæssige fordomme. Da AI-systemer trænes på store mængder data, ofte hentet fra internettet, er der mulighed for at inkorporere vildledende eller skadeligt indhold og dermed arve menneskelige fordomme og potentielt fejlinformere om specifikke begivenheder, især Holocaust. Rapporten påpeger, at utilstrækkelig overvågning, vejledning og moderering af AI-udviklere kan føre til, at generative AI-værktøjer trænes på data fra Holocaustbenægtelseswebsteder. Desuden har man observeret, at AI gør det muligt for ondsindede aktører at forvrænge indhold relateret til Holocaust ved at skabe fabrikerede vidnesbyrd og ændre historiske optegnelser. Deepfake-billeder og lydindhold, genereret gennem Generativ AI, er særligt overbevisende og eksponerer unge for sådant indhold på sociale medieplatforme. Historical Figures App tillod brugere at interagere med prominente nazister som Adolf Hitler og Joseph Goebbels og hævdede falsk, at personer som Goebbels ikke bevidst var involveret i Holocaust og havde forsøgt at forhindre vold mod jøder. Generative AI-modeller er tilbøjelige til at opfinde eller "hallucinere" begivenheder, personligheder og endda historiske fænomener, når de mangler tilstrækkelige data. Rapporten fremhæver tilfælde, hvor ChatGPT og Googles Bard har produceret indhold, der beskriver Holocaust-relaterede begivenheder, der aldrig fandt sted.

For eksempel opfandt ChatGPT helt konceptet af 'Holocaust ved drukning'-kampagner og hævdede, at nazisterne druknede jøder i floder og søer. Bard genererede også falske udtalelser fra vidner for at støtte forvredne fortællinger om Holocaust-massakrer. Ud over risikoen for manipulation og "hallucinationer", der underminerer etablerede fakta og nedbryder tillid til eksperter, understreger rapporten farerne ved, at AI forenkler kompleks historie ved at favorisere et snævert udvalg af kilder og begivenheder. Søgemaskiner, der er drevet af AI, viser 60-80% af de øverste billedresultater relateret til et enkelt Holocaust-sted, nemlig Auschwitz-Birkenau. Som løsning opfordrer UNESCO regeringer til at fremskynde implementeringen af ​​deres anbefaling om AI-etik, som blev vedtaget enstemmigt af medlemslandene i 2021 og er den eneste globale standard på dette område. Denne anbefaling bliver allerede integreret i lovgivningen i over halvtreds lande. Derudover opfordrer UNESCO teknologiske virksomheder til at overholde deres standarder ved at integrere principper som retfærdighed, gennemsigtighed, menneskerettigheder og omhyggelighed i designet af AI-applikationer. I februar 2024 var otte teknologivirksomheder de første til at forpligte sig til at anvende en etisk tilgang til udviklingen af ​​nye AI-værktøjer på anmodning fra UNESCO's generaldirektør. Teknologivirksomheder opfordres til tæt samarbejde med det jødiske samfund, Holocaust-overlevere og deres efterkommere, lærere, eksperter i antisemitisme og historikere i udviklingen af ​​nye AI-værktøjer. Desuden appellerer UNESCO til uddannelsessystemerne om at spille en rolle i at bevare fakta om Holocaust ved at ruste unge med digital dannelse, kritisk tænkning og en omfattende forståelse af denne folkedrabets historie.