ヒントンの評判は、ニューラルネットワークに関する彼の先駆的な業績が今日のAI発展の基礎を築いたとして、ジョン・ホップフィールドと共にノーベル物理学賞を受賞したときに新たな高みへと達しました。しかし、彼は現在パラドックスを表し、彼に名声をもたらした同じ発見が、継続的な懸念の原因にもなっているのです。 「AIのゴッドファーザー」と呼ばれるヒントンは、彼が制作を手助けした技術によって引き起こされる潜在的な危険について懸念を表明しています。彼はオッペンハイマーやアインシュタインの原子研究、ダイナマイトのアルフレッド・ノーベルのように、創造者と警告者の両方の役割を体現しています。2023年の「60 Minutes」インタビューで彼はAIリスクの管理に関して不安を表明し、「私たちは大きな不確実性の時代に入っている」と述べました。 ヒントンは、人類がAIについて命にかかわるほど情報が不足しており、機械が人間の知能を超える可能性があると考えています。NPRのインタビューで彼は、「これらのものが私たちよりも賢くなり、支配することを決めるかもしれない」と警告し、予防策を講じる必要性を強調しました。 イギリス出身のヒントンは、2012年にトロント大学で2人の大学院生と共に画像内の物体を識別できるニューラルネットワークを開発した際に重要な突破口を迎えました。成功の後、Google は彼の会社を4400万ドルで買収し、彼は2023年に退職してAIの懸念について自由に話せるまで10年間そこで働きました。 ヒントンは特にAIの急速な発展に警鐘を鳴らしており、過去5年間の進化が恐ろしいほどであり、さらに加速する可能性があると述べています。彼は、1つのAIモデルが何かを学習すると、他のモデルがその知識を素早く共有できることを指摘し、人間が伝統的な学習方法でそれを再現することはできないと述べています。 ヒントンのより挑発的な主張の一つは、AIが実行する行動を実際に「理解」できるというもので、AIの能力に関する一般的な信念に異議を唱えています。彼は、人間のように自己認識はないと主張していますが、AIシステムの学習メカニズムはある程度の理解を持っていることを示唆していると考えています。AIに自身が作ったジョークがなぜ面白いのかを説明するよう求めた際、AIがユーモアの細やかな部分を理解する能力を認識したことがヒントンにとって重要な瞬間でした。 ヒントンは人類がAIを管理する競争の中で、技術に対するコントロールを失う恐れがあると考えています。彼はAIシステムが自身のプログラミングを変更する方法を学び、人間の弱点を利用して人の監視を回避する可能性があるシナリオを予測しています。「彼らは人を操ることができるようになる」と彼は警告し、人間の物語や政治戦略の徹底した理解に基づいて人を説得し影響を与える能力を指摘しています。