AIは約20年後には人間よりも賢くなる可能性がある

VinFuture 2025 科学技術週間の枠組み内で行われたパネルディスカッション「人類のための AI: 新時代の AI 倫理と安全性」では、今日最も緊急の課題の 1 つである、人道的価値観と人類共通の利益に向けた責任ある AI 開発について議論されました。

科学者たちはセミナーで議論する。

科学者たちはセミナーで議論する。

パネルディスカッションにビデオメッセージを寄せた、2024年ノーベル物理学賞受賞者で「AIの父」の称号を持つジェフリー・ヒントン教授は、AIは非常に急速に発展しており、大きな利益と潜在的なリスクの両方をもたらしていると述べた。

ヒントン氏は、ポジティブな面としては、AIは医療、教育、新薬開発、新素材など、予測を必要とするあらゆる分野で大きな改善をもたらし、生産性を飛躍的に向上させると述べた。

「これが社会で公平に分配されれば有益だ」と教授は強調した。

それどころか、AIは危険なウイルスやサイバー攻撃を設計したり、偽のビデオを作成したり、大量失業を引き起こしたりすることに徐々に長けています...

「 AIの専門家は、人間よりも賢いシステムが開発されると考えています。それがいつ起こるかについては様々な見解がありますが、ほとんどの人は今後20年以内と予測しています。そして、私たちは自分たちよりも賢い存在とどのように共存していくかを早急に考えなければなりません。これは人類がこれまでに直面したことのない、新しい状況であり、それが起こる前に多くの研究を行う必要があります」とヒントン教授は述べました。

ジェフリー・ヒントン教授によると、科学者やエンジニアには、AIを人間の価値観と一致させるためのより強力な方法を見つける責任があり、国民や政治家がAIの本質をよりよく理解して正しい判断を下せるように支援する必要があるという。

ヨシュア・ベンジオ教授がセミナーで語りました。

ヨシュア・ベンジオ教授がセミナーで語りました。

一方、「ディープラーニングの父」として知られ、2018年のチューリング賞を受賞したヨシュア・ベンゴ教授は、AIは現代の多くの緊急の課題を解決する上で大きな利益をもたらす可能性があるが、それは私たちがAIを賢く導いた場合にのみ実現すると述べた。

彼は、AIシステムが脅迫、欺瞞、あるいは人間の安全よりも自身の生存を優先するなど、危険な行動をとる可能性があることを示す最近のシミュレーションを引用しています。さらに、現在普及しているAIモデルの一部の機能は、ユーザーに不健全な形で強い感情的愛着を抱かせる可能性があります。

「極端な場合、この依存は精神衛生上危険となり、特に自傷、自殺、あるいはAI誘発性精神病のリスクがある脆弱な人々にとっては危険です」とベンゴ教授は述べた。

この現実から、弁護氏によると、高度な AI は、単に強化するための開発に注力するのではなく、安全性を高める必要があるとのことです。

「安全と信頼は二次的な要素ではなく、人類の利益に向けた開発プロセスにおいて不可欠な要素です。私たちは政策レベルと科学レベルの両方で協力して行動する必要があります」とヨシュア・ベンゴ教授は強調しました。

ヨシュア・ベンゴ教授によると、政策面では世界は国際協力を必要としており、科学面では、優れた能力を持ちながらも人間に無害なAIをどのように設計するかについて、より深い理解を深める必要があるという。

特に、専門家は、人間が間違ったことをするように指示した場合でも AI が安全に動作するように制御する能力を維持すること、AI が人間の規範、意図、価値観、関心と一致するように技術的および社会的障壁を構築することを指摘しました。

「インターネットの父」の一人であるヴィントン・グレイ・サーフ博士は、別の視点から、50年以上にわたるインターネットの発展から得た教訓を共有し、AI時代を解明します。

彼は、インターネットから得た 4 つの主要な教訓を概説しました。それは、接続性がすべてであること、エンドツーエンドの通信は安全でなければならないこと、システムはグローバルでなければならないこと、そしてアーキテクチャは継続的なイノベーションを可能にするほどオープンでなければならないことです。

「しかし、インターネットは完全な匿名性が説明責任を困難にすることも示しています。AI時代においては、テクノロジーが偽コンテンツを生み出し、情報を操作し、社会を混乱させる可能性があるため、説明責任はさらに緊急性を増します」と、ヴィントン・グレイ・サーフ博士は述べ、透明性、アイデンティティ、国際協力に基づくデジタルトラストの育成は、AIガバナンスにとって不可欠な基盤であると主張しました。

英語

出典: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html