OpenAIのスキャンダルの背後にある「超知能」モデル

Tech.coの情報筋によると、CEOのサム・アルトマン氏が解雇され、その後OpenAIに復帰したことをめぐる論争が続く中、同社の研究者らが取締役会に送った手紙について噂が浮上した。その手紙では、開発中のAI超知能モデルが人類に脅威となる可能性について懸念が表明されていた。

（図）

プロジェクトQ*

社内でプロジェクトQ*（Qスターと発音）と呼ばれているこのモデルは、累積的な学習が可能でほとんどのタスクで人間を上回る能力を持つ、高度に自律的な超知能である汎用人工知能（AGI）の実現を目指すOpenAIの取り組みにおいて大きな進歩を示すものと言われている。

事情に詳しい関係者によると、Q*はAIの推論能力を劇的に向上させ、OpenAIをAGI開発における大きな躍進に近づけることで、人工知能に大きな飛躍をもたらす可能性があるという。

以前に学習した情報に基づいて応答を生成する能力に重点を置く現在の AI モデルとは異なり、AGI は意思決定に「理由」を適用できる自律システムであり、人間レベルの問題解決能力を備えています。

AGI はまだ完全には実現されていないものの、多くの専門家は、この技術には累積的に学習する能力も備わっていると考えています。これは、人間に能力を向上させる能力を与えるもう 1 つの特性です。

一部の情報源によると、OpenAIのプロジェクトであるQ*は、問題解決において上記の特性を発揮することができたとのことです。さらに、このモデルの膨大な計算能力のおかげで、Q*は小学生を上回る成績を収め、現在のAI技術の機能と比較して、優れた推論能力と認知能力を発揮しました。

Q* がどれくらいの期間開発されてきたのか、またその用途はどのようなものなのかは不明だが、人事スキャンダルが発覚する前に、OpenAI は従業員と役員にこのプロジェクトについて知らせていた。

倫理的な懸念

OpenAIのCEOサム・アルトマン氏はAGI技術がイノベーションを推進すると確信しているが、一部の研究者はプロジェクトの潜在的な危険性をいち早く指摘している。

研究者たちは取締役会に宛てた書簡の中で、この強力なアルゴリズムが人類に及ぼす潜在的な危険性について警告した。書簡で概説されたAIに関する具体的な倫理的懸念は明らかにされていないが、これらの警告は取締役会がアルトマン氏を解雇する決定を正当化するのに十分だった。

一方、アルトマンCEOを解雇した当初の理由は「コミュニケーションが不十分だった」というものだった。彼はすぐにマイクロソフトで新しい職を見つけた。この行動を受け、OpenAIの従業員770人のうち700人が、CEOが復職しなければ同じことをすると脅迫した。

同社が倒産の危機に瀕していたため、OpenAIの取締役会はアルトマン氏を最高経営責任者に復帰させざるを得なかった。これにより同社の経営陣も大幅に刷新され、経営陣内の深い分裂が浮き彫りになった。

現在、アルトマン氏が大統領に復帰し、プロジェクトQ*が再びゴーサインを得る可能性があるなか、新たな疑問が生じている。

プロジェクトQ*はどの程度現実的でしょうか?

OpenAI での激動の日々により AGI の概念が脚光を浴びたが、アルトマン氏がこの技術について言及したのはこれが初めてではない。

シリコンバレーの起業家である彼は、9月にAGIを「同僚として雇うかもしれない普通の人間」に例えたことで、批判を浴びた。昨年彼は、AIは「遠隔地の同僚とできることは何でもできる」と述べ、優秀な医師やプログラマーになることも含まれると発言したが、今回の発言はそれに続くものだった。

AGIを「平均的な人間」の知能と比較することは目新しいことではないが、AIが雇用の安定に与える影響についての懸念が高まる中、アルトマン氏がこの表現を使ったことは、AI倫理学者やケンブリッジ大学のヘンリー・シェブリン教授から「忌まわしい」とみなされた。

AGI における潜在的なブレークスルーは、他の研究者たちに警鐘を鳴らしている。その技術は、人間がその影響を完全に理解できるよりも速いペースで開発されているのだ。

OpenAIは、AGIの肯定的な成果によって、リスクの高い「地雷原」を追求する価値があると考えている。しかし、同社がこの方向へ突き進み続けるにつれ、アルトマン氏がユーザーと社会の利益よりも商業的成功を優先しているのではないかと懸念する声が多く上がっている。

フォン・アイン(出典: Tech.co、ガーディアン)

ソース: https://vtc.vn/mo-hinh-sieu-tri-tue-dang-sau-lum-xum-cua-openai-ar837315.html