「AIのゴッドファーザー」が、スーパーAIに対抗して人類が生き残る唯一の方法を明らかにする

人工知能（AI）開発の基盤構築に貢献したコンピュータ科学者、ジェフリー・ヒントン氏は、将来、AIの10～20%が人類を滅ぼす可能性があると警告した。ヒントン氏はまた、テクノロジー企業がAIを制御できる能力にも疑問を呈している。

「（テクノロジー企業によるAI制御能力については）それではうまくいかないでしょう。彼らは私たちよりもはるかに賢くなるでしょう。制御を回避する方法をいくつも持っているでしょう」とジェフリー・ヒントン氏は述べた。

“Bố già AI” tiết lộ cách duy nhất để nhân loại tồn tại trước siêu AI - 1 — ジェフリー・ヒントンは「AIのゴッドファーザー」として知られ、現代の人工知能の発展の基礎を築いた人物です（写真：Pinterest）。

ヒントン氏は、将来、大人がキャンディーで3歳児を誘惑するのと同じくらい簡単にAIシステムが人間をコントロールできるようになると警告しています。ヒントン氏は、目的を達成するために欺いたり、騙したり、誤った情報を提供したりすることを厭わないAIシステムの実例を挙げています。

ヒントン氏によると、AIに人間に従わせるのではなく、AIが全人類の知性よりも強力でインテリジェントになったとしても、AIが真に人間を気にかけるように、AIモデルに「母性本能」を統合することが、人類がAIに対抗して生き残る唯一の解決策だと考えている。

「AIシステムが人間よりも賢くなった場合、すぐに二つの目標を持つようになるでしょう。一つは生き残ること、もう一つはより多くの制御を獲得する方法を見つけることです。どんな種類のAIでも生き残ろうとするでしょう」とジェフリー・ヒントンはコメントしました。

だからこそ、「母性本能」をAIモデルに統合し、育むことが重要だとヒントン氏は述べた。しかし、ヒントン氏は、これを技術的にどう実現するかはまだ明確ではないと述べ、コンピューター科学者がそれを実現する解決策を見つける必要があると強調した。

オープンAIの暫定CEOを務めたエメット・シアー氏は、将来AIがより賢くなり、人間を脅かし、閉鎖命令を回避するようになったとしても驚かないと語った。

「今日のAIはまだ比較的弱いですが、はるかに賢く、強力になっています。止まることはないでしょう」とエメット・シアーは語った。

AIは予想以上に速く進化している

多くの技術専門家は、AIは人類の予想よりも速いペースで発展しており、複数のタスクを同時に実行できるAIシステムである人工汎用知能（AGI）とも呼ばれる人工超知能が今後数年以内に登場してくると考えています。

ジェフリー・ヒントン氏は、かつては人類がAGIを構築するには30年から50年かかると考えていたが、今ではその瞬間がもっと早く来ると考えていると述べた。

「AGIは今後5年から20年以内に登場することが妥当な推測です」とヒントン氏はコメントした。

ヒントン氏は、開発段階でのミスによりAIが制御不能に陥る可能性が依然としてあると懸念しているが、その一方で、この技術が医学の飛躍的進歩に道を開き、人々の生活の質を向上させることを期待している。

「AIのおかげで、革命的な新薬が発見され、現在よりもはるかに優れたがん治療が可能になるでしょう。例えば、AIは医師がCTスキャンやMRIスキャンから得られる膨大なデータを分析し、関連付けるのに役立つでしょう」とジェフリー・ヒントン氏は述べたが、AIが人間の不死化に貢献できないとは考えていない。

AIが今日のように急速に発展すると知っていたら過去にどうしていたかと問われると、ヒントン氏は、他の問題に注意を払わずにAIを機能させることだけに集中したことを後悔していると述べた。

「安全上の問題について考えていればよかった」とヒントン氏は語った。

ジェフリー・エベレスト・ヒントン教授は、1947年12月6日にイギリスのロンドンで生まれました。コンピュータ科学者であり、認知心理学者であり、人工知能（AI）とディープラーニングの分野における先駆的な貢献から「AIのゴッドファーザー」として知られています。

2024年、ヒントン教授は人工ニューラルネットワークによる機械学習の基礎的発見によりノーベル物理学賞を受賞しました。

また2024年には、ジェフリー・ヒントン教授が、ヨシュア・ベンジオ教授、ヤン・ルカン教授、フェイフェイ・リー教授、チップ企業NvidiaのCEOであるジェンセン・フアン氏とともに、ディープラーニングと人工知能の分野における多大な貢献を認められ、VinFuture 2024授賞式で主要賞を受賞しました。

ジェフリー・ヒントンは、ヨシュア・ベンジオやヤン・ルカンとともに、現代の人工知能の発展における多くの重要な進歩の基礎を築いた研究により、「AIのゴッドファーザー」とみなされています。

出典: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm