OpenAIやGoogleなどの主要な技術企業のAIチャットボットは、回答の信頼性向上のために最近数ヶ月にわたり推論能力の改善を受けています。しかし、最近のテストでは、一部の新しいモデルが従来のバージョンよりも性能が劣ることが明らかになっており、「幻覚（hallucinations）」と呼ばれる現象、すなわちチャットボットが誤った情報を生成したり、事実上正しい回答であっても不適切または指示に従わない回答を行ったりするエラーが見られます。これはOpenAIのChatGPTやGoogleのGeminiのような大規模言語モデル（LLMs）が登場して以来続いている問題であり、完全に解決される可能性は低いと見られています。 OpenAIの技術レポートによると、2024年4月に公開されたo3およびo4-miniモデルは、以前のo1モデルに比べて幻覚の発生率が大幅に高くなっています。具体的には、o3は33%、o4-miniは48%、それに対してo1は16%の幻覚率であり、公に入手可能な事実を要約した場合の数値です。同様に、Vectaraのランキングは、DeepSeek-R1を含むいくつかの推論モデルが、回答前の多段階推論にもかかわらず、幻覚の増加を示していることを示しています。 OpenAIは、推論過程自体が幻覚の増加に直接関係しているとは考えておらず、すべてのモデルにおいて幻覚を減らす方法を積極的に研究しています。幻覚の持続は、誤った情報を頻繁に出すモデルが研究支援の妨げとなり、存在しない判例を引用する法務支援ロボットが法的エラーを引き起こし、情報が古いカスタマーサポートのボットが運営上の問題を引き起こすなど、いくつかの応用にとって深刻な脅威となっています。 当初、AI企業はモデルのアップデートに伴い幻覚が時間とともに減少すると予想していましたが、最近の測定では幻覚のレベルが高進していることが示されており、推論の関与に関わらず、この見通しは揺らいでいます。Vectaraのランキングによると、OpenAIやGoogleの推論モデルと非推論モデルの幻覚率はおおよそ同じであり、具体的な数字よりも相対的な順位の方が重要です。Googleはコメントを控えています。 しかし、このようなランキングには制限もあります。例えば、DeepSeek-R1の14. 3%の幻覚率の中には、「良性」のケース、すなわち論理的に整合性があり知識に裏付けられているが、ソーステキストに存在しない回答が多く含まれています。また、テキスト要約だけを基準にしたテストでは、LLMsが特定の要約タスクのために最適化されているわけではないため、他の作業における幻覚の頻度を正確に反映しない可能性もあります。ワシントン大学のエミリー・ベンダーは、これらのモデルは次に来る最も可能性の高い単語を予測しているだけであり、情報を処理してテキストを理解しているわけではないため、「幻覚」という用語は誤解を招きやすく、人間のような認識をモデルに付与していると指摘しています。 ベンダーは、「幻覚は問題であり、信頼性のあるシステムでも稀に誤りを犯すことを意味している」と批判し、また、AIが人間のように「認知」しているわけではないことを強調しています。プリンストン大学のアーヴィンド・ナラヤナンも、モデルは信頼できない古いデータに依存することで誤ることがあると指摘し、トレーニングデータや計算資源を増やしてもこれらの問題は解決しないと述べています。 その結果、誤りやすいAIが永続的な現実となる可能性があり、ナラヤナンは、そのようなモデルは事実確認に時間がかかる場合に限り使用すべきだと提案しています。一方、ベンダーは、AIチャットボットに頼らず、事実情報の取得には避けるべきだと勧めています。