このコラムでは、以前の記事で提供された包括的な概要に基づき、OpenAIの新しい生成AIモデルo1の分析を続けます。本日は、AIの安全性を変革し得る注目すべきだがあまり報告されていないo1の機能を取り上げます。 ### リアルタイムダブルチェック o1の重要な要素は、実行時にリアルタイムのダブルチェックを行うチェーン・オブ・ソート（CoT）手法です。このメカニズムは、AIの幻覚—誤ったまたは有害なコンテンツの生成—を最小限に抑え、バイアスや危険な提案を回避することで安全性を高めます。他のAI開発者もすぐに同様の方法を採用する可能性があります。 この技術は以前にも試みられてきましたが、o1ではコア機能として継続的に動作し、ユーザーの介入なしに結果を向上させます。応答時間が長くなる（数分に及ぶ可能性もある）というトレードオフがありますが、それに見合うより安全な回答を提供します。ユーザーはこの機能を無効にすることができなくなり、ユーザーコントロールの変化を示しています。 ### チェーン・オブ・ソートの仕組み AIにおけるチェーン・オブ・ソートは人間の推論を模倣します。例えば、チェスの一手を考える際には、将来のポジションを見越してより良い決定ができます。生成AIでは、プロンプトがモデルを段階的に応答させるガイドとなります。このアプローチの効果は、さまざまなプロンプトでテストすることで明らかになります。 例えば、新しいビジネスを始める方法を尋ねると、従来のAIはムーンシャイニングや銀行強盗といったあまり賢くないオプションを提案するかもしれません。安全チェックを持つCoTアプローチを実装することで、違法な選択肢をフィルタリングし、倫理的な提案を促進します。 ### 安全チェックのフレームワーク o1では、ステップが自動化され、処理段階全体でAI安全チェックが組み込まれています。これにより、ユーザープロンプトが評価されるだけでなく、応答も有害なコンテンツかどうか監視されます。精度が向上する一方で、それに伴うコンピューティング時間のために応答の遅延と追加コストが明らかになります。 どの程度の安全措置が必要か、ユーザーがこれらの設定をコントロールするべきか、それとも高い安全レベルをデフォルトとするべきか検討が残されています。現在のほとんどのAIモデルは、すでに設計に多段階の安全チェックを組み込んでいます。 ### 結論 まとめると、o1のリアルタイムダブルチェックは、生成AIの安全性における重要な進展を表しており、応答の信頼性と精度を高めます。この機能は、AIの安全性を向上させるために注目と改善が必要な分野です。今後のコラムでは、o1の機能の他の側面やAI分野への影響についてさらに掘り下げます。お楽しみに。