Chatbot-yada AI ee ka socda shirkadaha tignoolajiyada ee hormuudka ka ah sida OpenAI iyo Google ayaa muddooyinkan u heelan kor u qaadista awoodooda sababtoo ah si loo hagaajiyo kalsoonida jawaabaha. Si kastaba ha ahaatee, tijaabooyinkii ugu dambeeyay ayaa muujinaya in qaabab cusub oo qaar ka mid ah ay wax qabadkoodu ka duwan yahay kuwa hore, isla markaana ay jiraan xaalado la yidhaahdo "hallucinations"—khaladaad ay sameeyaan chatbot-yada oo ay ku sari doonaan in ay soo saaraan xog been ah ama bixiyaan jawaabo si xaqiiq ah sax ah laakiin aan khusayn ama aan waafaqsanayn tilmaamaha. Arrintani waxay jirtey tan iyo markii la sameeyay moodeelada luuqadaha waaweyn (LLMs) sida ChatGPT ee OpenAI iyo Gemini ee Google, waxayna u muuqataa inay suurtagal noqon doonto inaan si buuxda loo xaliyin. Warbixin farsamo oo ka soo baxday OpenAI ayaa lagu sheegay in moodeeladdiisi oo la sii daayay April o3 iyo o4-mini ay lahaayeen heerarkoodii halqabsi ee hallucination-ka oo aad uga sarreeyay moodeelkii o1 ee dhacay dhamaadkii 2024: o3 qabay 33% heerka hallucination, o4-mini 48%, halka o1 uu ahaa 16%, marka la soo koobayo xaqiiqooyinka si guud loo heli karo. Sidoo kale, liiska hoggaanka Vectara ee lagu dabaqayo heerka hallucination-ka ayaa muujiyey in qaababka qaar ee fekerka—oo ay ku jiraan DeepSeek-R1— ay la kulmeen kor u kaca muuqda ee hallucinations-ka marka loo eego kuwii ka horeeyay, in kasta oo ay qaateen habka fekerka tallaabo-tallaabo ah ka hor jawaab bixinta. OpenAI waxa ay ku doodaysaa in hababka fekerka iyo xusuusta aysan sabab u ahayn kor u kaca hallucinations-ka, waxayna si firfircoon u baareysaa siyaabaha lagu yareyn karo khaladaadkaas. Joogteynta hallucinations-ka ayaa halis gelinaysa adeegyo badan oo muhiim ah: qaababka si joogto ah been abuur ah u soo saara waxay caqabad ku noqondaan taageerada cilmi-baarista; bots-yo astaamo sida qareen-ku-xigeen oo tixraacaya kiisyo aan jirin ayaa khatar galin kara khaladaad sharci; bots-ka adeegga macaamiisha oo leh xog duug ah ayaa keen kara dhibaatooyin hawl-gal. Bilowgii, shirkadaha AI waxay filayeen in hallucinations-ka uu yaraan doono waqtiga, maadaama cusboonaysiinta moodeelada hore ay dabooleen horumarin. Laakiin, heerarka hadda ee haliucinations-ka sareeya ayaa caqabad ku ah aragtidii hore, iyadoon loo eegin inay ku lug leeyihiin habka fekerka ama aysan. Waxa kale oo show cilmi-baaris ah oo ka socota liiska hoggaanka Vectara muujinaya in heerarka hallucination-ka ay ku dhow yihiin qaababka fekerka iyo kuwa aan ahayn, shirkadaha OpenAI iyo Google, in kasta oo tirooyinka saxda ah ay yihiin kuwo ka muhiimsan in la eego kaalmooyinka guud.

Google ma aysan faallo bixin. Si kastaba ha ahaatee, qiimayntan waxaa ku jira xaddidaadyo. Waxay isku dhex jirtaa noocyo kala duwan oo hallucination ah; tusaale ahaan, heerka 14. 3% ee hallucination-ka ee DeepSeek-R1 ayaa inta badan ka koobnaa kiisaska "wanaagsan"—jawaabaha si garasho leh u sax ah oo ay taageerayaan aqoonta, balse aan ka muuqan qoraalka asalka ah. Intaas waxaa sii dheer, tijaabooyinka ku saleysan oo kaliya ee dulmaridda qoraalka ma muujin karaan inta uu le'eg yahay hallucinations-ka ee waajibaadka kale, maadaama LLM-yadu aysan si gaar ah loo sameynin si loo soo koobo. Emily Bender oo ka tirsan Jaamacadda Washington ayaa adkaynaysa in qaababkaas ay saadaaliyaan erayada suurtagalka ah ee xiga halkii ay ka shaqayn lahaayeen fahamka dhab ah ee qoraalka, taas oo ka dhigaysa erayga "hallucination" mid marin-habaabin ah iyo mid bini'aadanimo leh. Bender ayaa dhaleeceyn ujeedinaysa "hallucination" sababtoo ah waxay muujinaysaa in khaladaadku ay yihiin wax aan caadi ahayn oo loogu talagalay nidaamyada lagu kalsoon yahay, isla markaana ay u egtahay inay bini’aadamka u leeyihiin dareen iyo faham, taas oo AI aysan samayn karin maadaama aysan "arag" wax. Arvind Narayanan oo ka tirsan Jaamacadda Princeton ayaa ku daraya in qaababka ay khalad ka samayaan markay ku tiirsan yihiin xog aan la hubin ama duug ah, iyo in kaliya lagu daro xog tababar ah ama awood kombuyuutar oo badan aysan xallin karin dhibaatooyinkan. Sidaas darteed, AI-ga khalad badan laga yaabo inay noqoto xaqiiqo muddo dheer ah. Narayanan ayaa ku talinaya in qaababkan la isticmaalo kaliya marka xaqiijinta xaqiiqooyinka ay ka dhakhso badan tahay in cilmi-baaris cusub la sameeyo, halka Bender ay talo ka bixineyso in si gaar ah looga fogaado ku tiirsanaanta chatbot-yada AI ee xogta xaqiiqda ah oo dhan.