AI企業は人工知能によるリスクから人類を十分に守っているのか？シリコンバレーの非営利団体、未来のための生命研究所（Future of Life Institute）が発表した新しい評価結果によると、おそらく答えはノーだ。 AIが人間と技術のやり取りにますます不可欠になるにつれて、潜在的な危険も現れてきている。たとえば、AIチャットボットをカウンセリングに利用し、その後自殺に至るケースや、AIを利用したサイバー攻撃などだ。将来的なリスクとしては、武器へのAIの利用や政府の不安定化を目的とした試みも含まれる。 しかし、グローバルな安全性を優先させるためのインセンティブは不十分だ。研究所が最近発表したAI安全性指数（AI Safety Index）は、安全な成果に向けてAI開発を誘導し、存在そのものを脅かす危険を軽減しようとするものだが、この問題を浮き彫りにしている。マックス・テグマーク所長兼MIT教授は、AI企業は米国で規制のない唯一の強力な技術を生産する業界であり、「底辺を競うレース」を引き起こし、安全性がしばしば後回しにされていると指摘した。 指数の最高評価はC+で、ChatGPTを開発したOpenAIと、チャットボットClaudeで知られるAnthropicに与えられた。GoogleのAI部門、Google DeepMindはCを獲得。低い評価には、Meta（Facebookの親会社）やエロン・マスクのxAIなどがあり、両者ともパロアルト付近に拠点を置いている。中国のZ. aiやDeepSeekもD評価だった。Alibaba Cloudは最も低いD-を受けた。 企業は、存在の安全性、リスク評価、情報共有など6つのカテゴリーにまたがる35の指標で評価された。評価には、公開されている情報や企業のアンケート回答を用い、学者や組織のリーダーを含む8人のAI専門家がスコアリングを行った。 特筆すべきは、すべての企業が内部統制や戦略を評価する「存在の安全性」で平均以下だった点だ。これは、AIの一般化と超知能化が進む中で、制御喪失や重大な悪用を防ぐための信頼できる計画が示されていないことを意味している。 Google DeepMindとOpenAIは安全への取り組みを明言。OpenAIは最先端の安全性研究への投資や厳格なテスト、安全性フレームワークの共有による業界標準の向上を強調した。DeepMindも、先進的なAIモデルから生じる重大リスクを軽減するための科学に基づく安全策やプロトコルを重視している。 一方、研究所は、xAIとMetaにはリスク管理の枠組みはあるものの、十分な監視や制御の約束、重要な安全研究への投資が不足していると指摘している。DeepSeek、Z. ai、Alibaba Cloudは、安全戦略に関する公開資料を持っていない。Meta、Z. ai、DeepSeek、Alibaba、Anthropicはいずれもコメント要請に応じなかった。 xAIは、この報告を「レガシーメディアの虚偽」と一蹴し、マスク氏の弁護士も追加の問い合わせに応えなかった。マスク氏は未来の生命研究所に助言や資金提供を行っているが、このAI安全性指数の作成には関与していない。 テグマークは、規制が不十分なままだと、テロリストがバイオ兵器を開発したり、操縦の潜在能力を超えた操作を行ったり、政府の安定を崩す危険があると懸念を示した。そして、これらの問題を解決するには、AI企業に対する拘束力のある安全基準を設けるだけで十分だと強調した。 一部の政府はいくつかの規制強化策を推進しているが、テック企業のロビイ活動は、イノベーション阻害や企業の移転を懸念し、こうした規制に反対している。それでも、カリフォルニア州のSB 53法案は、企業に対して安全とセキュリティの手順を開示し、サイバー攻撃などのインシデントを報告させることを義務付けている。テグマークはこの法律を一歩前進とみなす一方、はるかに多くの措置が必要だと述べている。 エンダリーグのロブ・エンダーリー最高分析官は、AI安全性指数のアプローチはAI規制の課題に対して説得力があるとしつつも、現米国政府の規制実施能力には疑問を投げかけた。彼は、ルールが不十分だと逆に害をもたらす可能性や、現行の執行メカニズムの不足を警告した。 まとめると、AI安全性指数は、主要なAI開発者たちが十分な安全性へのコミットメントを示していないことを明らかにしており、今後、AIのリスクが拡大する中で人類を守るためには、より強力な規制の必要性が急務であることを示している。