Жетекші технологиялық компаниялар, мысалы, OpenAI мен Google шығарған жасанды интеллект чатботтары соңғы айларда жауаптың сенімділігін арттыру мақсатында ойлау қабілетін жақсартатын түзетулер енгізуде. Алайда, соңғы сынақтар көрсеткендей, кейбір жаңа үлгілер бұрынғы нұсқалардан нашар жұмыс істеп, «галадыация» деп аталатын құбылысты байқатуда — яғни чатботтар жалған ақпарат таратып, шынайы бола тұра мағынасыз немесе нұсқауларға сай келмейтін жауаптар беруі. Бұл мәселе OpenAI-дің ChatGPT, Google-дың Gemini сияқты ірі тілдік модельдерінің (LLMs) алғашынан бері келе жатқан және толық шешілуі қиын сияқты көрінетін проблема. OpenAI-дің техникалық есептамасында 2024 жылдың наурызында шығарылған o3 және o4-mini модельдерінің қарт модельдерге — мысалы, 2024 жылы соңында шыққан o1 моделіне — қарағанда айтарлықтай жоғары галлюцинация деңгейі байқалғаны көрсетілген: o3 моделінде галлюцинация мөлшері 33%, o4-mini-де 48%, ал o1-де — 16% болды, яғни ашық мәліметтерді қорытындылау кезінде. Сол сияқты, Vectara платформасының рейтингінде көрінгендей, кейбір ойлау моделдері — мысалы, DeepSeek-R1 — әуелгі нұсқалармен салыстырғанда айтарлықтай жоғары галлюцинация көрсеткен, және бұл модельдер бірнеше қадамды талдаудан кейін жауап беретін болғанымен. OpenAI-дің пікірінше, ойлау процесі әуелден галлюцинацияның өсуіне себеп емес және олар барлық моделдердің галлюцинациясын азайту бағытында белсенді зерттеулер жүргізуде. Бұл мәселенің шешілмеуі бірнеше қолданымдарға қауіп төндіреді: жалған ақпарат жиі шығаратын модельдер ғылыми-зерттеу көмегін қиындатады; заңгерлік кеңес беретін чатботтар жалған іс жүргізулерді көрсетуі мүмкін, бұл заңды қатерлер тудырады; ал клиенттерге қызмет көрсету боттары ескі ақпаратпен жұмыс істесе, жұмыс процесіне кедергі болуы ықтимал. Бастапқыда, ИИ компаниялары галлюцинация деңгейі уақыт өте төмендейді деген үмітте болған, себебі алғашқы модель жаңартулары жақсарта түскен еді. Алайда, соңғы кездегі жоғары галлюцинация деңгейлері бұл болжамға қарсы шықты, ойлау қатысқаны немесе қатысқаны жоқ, — еш айырмашылық жоқ.

Vectara рейтингінде OpenAI мен Google моделдерінің галлюцинация деңгейі шамалас және бұлар салыстырмалы орындарда қарастырылуда, нақты сан деректер маңызды емес. Google бұл туралы пікір білдірмеді. Дегенмен, мұндай рейтингтердің шектеулері бар. Олар әртүрлі галлюцинация түрлерін бірдей түрде ескереді; мысалы, DeepSeek-R1 моделінің 14, 3%-дық галлюцинациясы негізінен «жақсы» деп саналатын — яғни логикаға сай және біліммен расталған, бірақ мәліметтер негізінен болмаған жауаптар — жағымды жағдайлар. Сондай-ақ, тек мәтінді қысқарту негізінде жасалған тестілер басқа тапсырмаларда галлюцинация деңгейін нақты көрсетпеуі мүмкін, себебі LLM-дер нақтылы мәтін түсінуде ғана емес, жалпы басқа мекемелер үшін арналған. Вискантин университетінің Emily Bender-і бұл модельдердің алдымен ықтимал келесі сөздерді болжауға бағытталғанын, шын мәнінде мағынаны түсінбейтіні және «галлюцинация» терминін қолдану екіжақты әрі адастырғыш екенін атап көрсетеді. Bender «галлюцинацияны» кемшіліктерді барынша дұрыс емес деп сынға алады, себебі ол жүйе әдеттегідей сенімді емес деген түсінікке және жасанды интеллектке адамға тән қабылдау қасиеттерін жүктеуге әкеледі, ол «көреді» немесе «сезеді» дегенді білдірмейді. Принстон университетінің Arvind Narayanan бұл моделдердің сенімсіз немесе ескірген мәліметтерді пайдалануы арқылы қате жіберетінін және жаттығу деректерін көбейту, есептеу қуатын арттыру бұл мәселелерді шеше алмайтынын айтады. Осылайша, қателіктер жіберетін ИИ-дің ұзақ уақыт бойы жалғаса беруі ықтимал. Narayanan мұндай модельдерді негізгі ақпаратты растау тез әрі оңай болған кезде ғана пайдалану керек деп кеңес береді, ал Bender бұл мәселеде жасанды интеллектке толық сенбеуді ұсынады, әсіресе фактілік мәліметтер үшін.