人工知能モデルは長い間、幻覚という課題に直面してきました。産業界での婉曲表現で、大規模言語モデルが頻繁に事実として提示する誤情報を指します。 GoogleやOpenAIなどの企業が「思考」を通じて問題を解決しようと開発した最新の「推論」モデルの方向性を見る限り、この問題は改善されるどころか悪化しているようです。 ニューヨーク・タイムズによると、AIモデルがより強力になるほど、その幻覚の傾向も増加しているというのです。これは、OpenAIのChatGPTのようなAIチャットボットに多くのユーザーが集まり、さまざまなタスクに応用するようになっている現状では、非常に不便な現実です。チャットボットが疑わしいまたは誤った発言をした場合、ユーザーは恥ずかしさやより深刻な結果を被る危険性があります。 さらに問題なのは、AI企業がなぜ最近になってチャットボットの誤りが増えているのか、その原因を特定するのに苦労していることです。これは、AIの開発者でさえもこの技術の動作原理を完全には理解していないことを示す困惑すべき状況です。 この危険なパターンは、AIモデルを拡大すればするほど信頼性と能力が向上するとする業界内の一般的な信念に挑戦しています。 状況は非常に深刻で、各企業は何十億ドルもの投資を続けて、ますます大規模で強力な「推論」モデルのためのAIインフラを構築しています。 一部の専門家は、幻覚は技術に内在するものであり、完全に排除するのはほぼ不可能ではないかと考えています。 「最善を尽くしても、彼らは常に幻覚を見続けるだろう」と、AIスタートアップのVectaraのCEOであるアムル・アワダラッドはニューヨーク・タイムズに語りました。「それは決してなくならない。」 この問題は非常に広範囲に及び、現在では企業が幻覚を管理し軽減する手助けをする専門の会社も出てきています。 「これらの誤りに適切に対処しないと、AIシステムの価値はほぼなくなる」と、AIをより効果的に活用するコンサルタント会社Okahuの共同創業者プリタク・ヴェルマはNYTに述べました。 この発言の背景には、先月末にリリースされたOpenAIの最新推論モデル、o3とo4-miniが、以前のバージョンよりも頻繁に幻覚を起こすことが判明したことがあります。 OpenAIの内部正確性基準では、o4-miniモデルは48％の確率で幻覚を見せ、正確さが乏しいことが示されました。o3モデルの幻覚率は33％で、これは同社の従来の推論モデルの約2倍に当たります。 ニューヨーク・タイムズが指摘するように、GoogleやDeepSeekといった競合他社も同じ問題に直面しており、これは業界全体の課題であることを示しています。 専門家たちは、AIモデルが大きくなるにつれて、新しいモデルが前のモデルよりも改善をもたらす度合いが減少していると警告しています。企業は急速に入手可能な訓練データを使い果たしており、多くは合成データやAI生成データを使ってモデルを訓練していますが、これは破滅的な結果を招く可能性もあります。 要約すると、努力が続けられる中でさえも、幻覚の発生はかつてないほど広がっており、現段階ではこの技術に改善の兆しは見えていません。 AIの幻覚についての詳細は、「You Can’t Lick a Badger Twice」（直訳：「アナグマを二度舐めることはできない」）：GoogleのAIが架空の人々に関する説明を作り出しているという記事も参照してください。