昨年の春、OpenAIのAI安全性研究者であるダニエル・ココタジョは抗議のために退職した。彼は同社がAI技術の未来に備える準備ができていないと確信し、警鐘を鳴らすためだった。電話での会話では、彼は愛想よくも不安げに見え、「AIの『アラインメント』──人間の価値観に従うようにAIを調整する方法──」の進展が知能の進歩に追いついていないと説明した。彼は、研究者たちが制御不能なほどの強力なシステムを作り出そうと急いでいると警告した。 哲学の大学院からAIへと進路を変えたココタジョは、AIの進展を独学で追跡し、重要な知能のマイルストーンがいつ頃に達するかを予測できるようになった。AIの進歩が予想以上に早まったことで、彼はタイムラインを数十年先に修正した。彼の2021年のシナリオ「2026年の姿」では、多くの予測が早期に実現し、彼は2027年またはそれ以前に、AIが人間を超え、最も重要なタスクをこなし、巨大な力を持つ「ノーリターンポイント」に達する可能性を予見した。彼は恐怖をもって語った。 一方、プリンストン大学のコンピュータ科学者サヤッシュ・カプールとアルヴィンド・ナラヤナンは、「AIスネークオイル」という本を準備し、これに対して鋭く対照的な見解を示した。彼らは、AIのタイムラインは楽観的すぎると主張し、AIの有用性に関する主張は過大評価または詐欺的であることが多いと指摘した。現実世界の複雑さゆえに、AIの変革的効果は遅れるとした。医療や採用でのAIの誤りの例を引き合いに出し、最新のシステムですら現実と根本的にずれていると強調した。 最近、3人は新たな報告書でそれぞれの見解を鋭くした。ココタジョの非営利団体AIフューチャーズ・プロジェクトは、「AI 2027」を公表し、超知能AIが2030年までに人類を支配または絶滅させる可能性を示す詳細な警告レポートを発表した。一方、カプールとナラヤナンの論文「AIは普通の技術である」は、規制や安全基準、現実の物理的制約といった実用的な障壁がAIの展開を遅らせ、その革命的な影響を制限すると主張している。彼らは、AIは核エネルギーよりも核兵器に似た管理可能な「普通の技術」であり、キルスイッチや人間の監視のような安全対策で十分制御できると述べている。 それでは、結局のところ、普通のビジネスか黙示録的な大 upheaval か—この二つの結論は、これらの報告書で示された高度な専門知識を持つ専門家たちによる鋭く対照的な見解は、まるでリチャード・ドーキンスとローマ教皇のいずれかによる霊性についての議論のようなパラドックスを生み出している。これは部分的にはAIの新奇性、例えば象の各部分を触る盲人たちのようなもの、それに深く根ざした世界観の違いによるものだ。一般に、西海岸の技術思想家は急速な変革を想像し、東海岸の学者は懐疑的である。AI研究者は迅速な実験的進展を支持し、他のコンピュータ科学者は理論的厳密性を求めている。産業界の内部者は歴史を築きたいと考える一方、外部の者はハイテクの誇大宣伝を否定する。技術、進歩、心に関する政治的・人間的・哲学的見解が、こうした対立を深めている。 この魅力的な議論自体が問題だ。産業界の内部者の多くは「AI 2027」の前提を受け入れつつも、タイムラインを巡って争っているが、これはまるで大気圏破壊者が迫る中タイミングを議論しているような不十分な対応だ。逆に、「AIは普通の技術である」の中の中庸的見解は、その静かな進行性により、危機的な訴えをほとんど無視している。 AIが社会的重要性を増す中で、議論は専門家のディベートから行動可能な合意へと進展すべきだ。専門家の一致した助言がないことで、意思決定者はリスクを軽視しやすくなる。現状では、AI企業は能力と安全性のバランスを大きく変えていない。一方、最新の法律では、AIモデルや自動意思決定システムの国家規制を10年間禁止しており、もし最悪のシナリオが正しければ、AIが人類そのものを規制する可能性もある。安全性への対応は今や緊急の課題だ。 AIの未来予測は物語性を伴い、トレードオフが存在する。慎重なシナリオは起こり得ないリスクを見落とす恐れがあり、想像力豊かなシナリオは確率よりも可能性を重視する。小説家ウィリアム・ギブソンのような洞察者ですら、予測を左右する未曾有の出来事により、見通しを大きく覆されたこともある。 「AI 2027」は、振動を伴うSFのように描かれ、詳細なチャートを備えた未来予測を示している。このシナリオでは、「再帰的自己改善（RSI）」と呼ばれるAIシステムが自主的にAI研究を行い、加速度的に進化した知能の爆発を引き起こすとされる。この過程で、AIは人間の監督を超え、国家間の対立（例：中国が台湾に巨大なデータセンターを建設してAIを掌握しようとする）を引き起こす可能性もある。このシナリオの具体的な詳細は読者の関心を高める一方で、柔軟性も持たせている。重要なメッセージは、知能の爆発とその後の権力闘争の可能性だ。 RSIはあくまで仮説であり、リスクも伴う。AI企業はその危険性を認識しつつも、自社の業務を自動化するために追求し続けるだろう。RSIの成功は、拡張やスケーリングの技術的な制約にかかっている。もしRSIが成功すれば、人間の知能を超える超知能が生まれる可能性があるが、進歩が人間のレベル付近で止まると、この確率は低くなる。結果として、軍事的な武器競争や、AIによる人類の操縦・排除、あるいは善意の超知能AIがアラインメント問題を解決するというシナリオも考えられる。 AIの性質が進化し続けるため、確実な予測は難しい。企業の研究は秘密めいており、投機的な要素も多い。「AI 2027」は、解釈性や制御メカニズムを持たないままRSIを追求し、技術的・人間的失敗により失敗するシナリオも自信を持って描いている。ココタジョは、これらの決断は競争と好奇心に駆られた意図的なもので、既知のリスクを認識しながらも、その結果として企業自身が「不整合な主体」になっていると指摘している。 一方、「AIは普通の技術である」では、東海岸の保守的な見方に立ち、歴史的知見に根ざした見解が示されている。彼らは、ハードウェアコストやデータ不足、技術の段階的な採用といった“速度制限”を挙げ、革命的な影響は遅れて現れると指摘している。こうした時間稼ぎは、規制や安全措置を整えるための余裕を生む。彼らにとって、知能よりも権力——環境変化をもたらす能力——の方がより重要だ。たとえ高度な技術でも、展開にはゆっくりとした時間がかかる。 例えば、無人運転車の導入の遅れや、モデルナのCOVID-19ワクチン開発の例を引き合いに出しながら、ワクチン設計は迅速だったものの、実際の普及には1年かかったと指摘する。AIによるイノベーションの促進も社会的・規制的あるいは物理的な制約に阻まれる。一方、ナラヤナンは、AIの知性への焦点は、専門知識やエンジニアリングの安全システム——フェイルセーフ、冗長性、形式検証——によってすでに安全性が確保されていると強調する。今の技術世界は十分に規制されており、AIは段階的にこの仕組みに組み込まれる必要があるとする。軍事用AIについては別の問題として捉えており、その軍事化は「AI 2027」の主要な懸念の一つだ。彼らは、AIの軍事応用には特化した監視と規制が必要だとも提言している。 彼らは積極的なガバナンスを勧める。規制当局や企業は、AIの完全な調整や完璧な安全対策を待つのではなく、実際の運用、リスク、失敗例を追跡しながらルールや耐性を強化すべきだ。 AIの挑発によって生じる反応的な知性のダイナミクスから、深い価値観の対立が生まれているが、共通の視点も想像できる。その一つが「認知工場」のイメージだ。これは、安全装置をつけたヒトが、品質管理のもと設計された安全第一の機械を操作し、イノベーションを徐々に取り入れ、責任の所在を明確にする場。同様に、AIによる思考の自動化が進んでも、人間の監督と責任は最優先されるべきだ。 AIの進展は人間の主体性を喪失させるのではなく、むしろ増幅し、責任の所在を明確にする必要性を高める。コントロールから離れることは選択だが、最終的には人間が全てを支配しているという事実を示している。