Tekoäly-chatbotit johtavilta teknologiayrityksiltä, kuten OpenAI ja Google, ovat viime kuukausina saaneet parannuksia päättelyn kyvyissään vastauksien luotettavuuden lisäämiseksi. Kuitenkin viimeaikaiset testit paljastavat, että jotkut uudemmat mallit suoriutuvat heikommin kuin aiemmat versiot, osoittaen ilmiön nimeltä "hallusinaatiot" – virheitä, joissa chatbotit tuottavat väärää tietoa tai antavat vastauksia, jotka ovat faktuaalisesti oikeita mutta merkitykseltään epäolennaisia tai vastoin ohjeita. Tämä ongelma on jatkunut suurten kielimallien (LLM), kuten OpenAI:n ChatGPT:n ja Google:n Gemini:n, alusta asti, eikä näytä todennäköiseltä, että se täysin ratkeaisi. OpenAI:n tekninen raportti osoitti, että sen huhtikuussa julkaisemat mallit o3 ja o4-mini olivat merkittävästi suuremmassa hallusinaatiovaiheessa kuin vanhempi o1-malli vuodelta 2024: o3:lla oli 33% hallusinaatioprosentti, o4-mini:llä 48%, kun taas o1-mallilla oli 16%, kun tiivistettiin julkisesti saatavilla olevia faktoja. Samoin Vectaran johtotason seurannan mukaan joidenkin päättelymallien, kuten DeepSeek-R1:n, hallusinaatiot kasvoivat selvästi verrattuna edeltäviin malleihin, vaikka ne käyttävätkin monivaiheista päättelyä vastauksia laatiessaan. OpenAI toteaa, että päättelyprosesseilla ei ole välitöntä vastuuta hallusinaatioiden lisääntymisestä, ja se aktiivisesti tutkii keinoja vähentää hallusinaatioita kaikissa malleissaan. Hallusinaatioiden jatkuminen uhkaa useita sovelluksia: mallit, jotka usein tuottavat virheellistä tietoa, haittaavat tutkimustukea; oikeudellisten tapausten olemassaolon väittämiseen perustuvat paralegal-botit aiheuttavat virheitä oikeudellisessa työssä; asiakaspalvelubotit, joilla on vanhentunutta tietoa, aiheuttavat toimintavaikeuksia. Alkujaan tekoälyyritykset odottivat hallusinaatioiden vähenevän ajan myötä, sillä varhaisissa mallipäivityksissä nähtiin parannuksia. Kuitenkin viimeaikaiset korkeammat hallusinaatioprosentit haastavat tämän ennusteen, riippumatta siitä, käytetäänkö päättelyä vai ei. Vectaran johtotaso osoittaa, että hallusinaatioprosentit ovat suurin piirtein samat päättelyä käyttävissä ja käyttämättömissä malleissa sekä OpenAI:n että Googlen osalta, vaikka tarkat luvut ovat vähemmän merkityksellisiä suhteellisten sijoitusten kannalta.

Google ei kommentoinut tilannetta. Kuitenkin tällaisilla sijoituksilla on rajoituksensa. Ne sekoittavat eri hallusinaation tyyppejä; esimerkiksi DeepSeek-R1:n 14, 3% hallusinaatioprosentti koostui pääosin "harmittomista" tapauksista – vastauksista, jotka ovat loogisesti päteviä ja tukevia tietoon, mutta puuttuvat lähdetekstistä. Lisäksi pelkkään tekstin tiivistämiseen perustuva testaus ei välttämättä heijasta hallusinaatioiden yleisyyttä muissa tehtävissä, sillä LLM:et eivät ole suunniteltu nimenomaan tiivistämään. Emily Bender Washingtonin yliopistosta korostaa, että nämä mallit ennustavat todennäköisiä seuraavia sanoja eivätkä käsittele tietoa saadakseen aikaan todellista ymmärrystä tekstistä, mikä tekee termin "hallusinaatio" harhaanjohtavaksi ja ihmisluontoiseksi antropomorfisena kuvauksena. Bender kriittisesti näkee "hallusinaation" ongelmallisena, koska se antaa kuvan, että virheet ovat poikkeavuuksia muuten luotettavissa järjestelmissä, ja ihmisen kaltaista havaintokykyä on liitetty tekoälyihin, jotka eivät käytännössä "näe" tai "käsitä" mitään. Princetonin Arvind Narayanan lisää, että mallit tekevät virheitä myös käyttämällä epäluotettavia tai vanhentuneita tietoja, ja pelkkä koulutusdatan tai laskentatehon lisääminen ei ole ratkaissut näitä ongelmia. Näin ollen virheisiin taipuvainen tekoäly saattaa olla pysyvä todellisuus. Narayanan ehdottaa, että tällaisia malleja tulisi käyttää vain silloin, kun faktantarkistus on nopeampaa kuin alkuperäisen tutkimuksen tekeminen, kun taas Bender suosittelee välttämään kokonaan luottamasta tekoälychatboteihin faktuaalisen tiedon lähteenä.