OpenAIのスキャンダルの背後にある「超知能」モデル

Tech.coの情報筋によると、CEOのサム・アルトマン氏が解雇され、その後OpenAIに復帰したことをめぐる論争が続く中、噂の一つは同社の研究者らが取締役会に送った手紙に関するもので、開発中のAI超知能モデルが人類に脅威となる可能性について懸念を表明していたという。

（図）

プロジェクトQ*

社内でプロジェクトQ*（Qスターと発音）と呼ばれているこのモデルは、OpenAIの汎用人工知能（AGI）の追求における大きな進歩を表すと言われている。AGIは、累積的な学習が可能で、ほとんどのタスクで人間を上回る能力を持つ、高度に自律的な超知能の一分野である。

事情に詳しい関係者によると、Q*はAIの推論能力を劇的に向上させ、OpenAIをAGI開発における大きな躍進に近づけることで、人工知能に大きな飛躍をもたらす可能性があるという。

以前に学習した情報に基づいて応答を生成する能力に重点を置く現在の AI モデルとは異なり、AGI は意思決定に「理由」を適用できる自律システムであり、人間レベルの問題解決能力を備えています。

AGI はまだ完全には実現されていないものの、多くの専門家は、このテクノロジーには、人間に能力を向上させる能力を与えるもう 1 つの特性である累積的に学習する能力も備わっていると考えています。

一部の情報源によると、OpenAIのプロジェクトであるQ*は、問題解決において上記の特性を発揮することができたとのことです。さらに、このモデルの膨大な計算能力のおかげで、Q*は小学生を上回る成績を収め、現在のAI技術の能力をはるかに超える推論能力と認知能力を発揮しました。

Q* がどれくらいの期間開発されてきたのか、またその用途はどのようなものなのかは不明だが、人事スキャンダルが発覚する前に OpenAI は従業員と役員にこのプロジェクトについて知らせていた。

倫理的な懸念

OpenAIのCEOサム・アルトマン氏はAGI技術がイノベーションを推進すると確信しているが、一部の研究者はプロジェクトの潜在的な危険性をいち早く指摘している。

研究者たちは取締役会に宛てた書簡の中で、この強力なアルゴリズムが人類に及ぼす潜在的な危険性について警告した。書簡で概説されたAIに関する具体的な倫理的懸念は明らかにされていないが、その警告は取締役会がアルトマン氏を解雇する決定を正当化するのに十分だった。

一方、アルトマンCEOを解雇した当初の理由は「コミュニケーションが不十分だった」というものだった。彼はすぐにマイクロソフトで新しい職を見つけた。この行動を受け、OpenAIの従業員770人のうち700人が、CEOが復職しなければ同じことをすると脅迫した。

同社が倒産の危機に瀕していたため、OpenAIの取締役会はアルトマン氏を最高経営責任者に復帰させざるを得なかった。これにより同社の経営陣も大幅に刷新され、経営陣内の深い分裂が浮き彫りになった。

アルトマン氏が大統領に復帰し、プロジェクトQ*が再び承認される可能性が高くなった今、新たな疑問が生じている。

プロジェクトQ*はどの程度現実的でしょうか?

OpenAI での激動の日々により AGI の概念が脚光を浴びているが、アルトマン氏がこの技術について言及したのはこれが初めてではない。

シリコンバレーの起業家である彼は、9月にAGIを「同僚として雇うかもしれない普通の人間」に例えたことで、非難を浴びた。昨年彼は、AIは「遠隔地の同僚とできることは何でもできる」と発言し、医師や優秀なプログラマーになる方法を学ぶことも含まれると付け加えた。

AGIを「平均的な人間」の知能と比較すること自体は目新しいことではないが、AIが雇用の安定に及ぼす影響についての懸念が高まる中、アルトマン氏がこの表現を使ったことは、AI倫理学者でケンブリッジ大学教授のヘンリー・シェブリン氏から「忌まわしい」とみなされた。

AGI における潜在的なブレークスルーは、他の研究者たちに警鐘を鳴らしている。その技術は、人間がその影響を完全に理解できるよりも速いペースで開発されているのだ。

OpenAIは、AGIの肯定的な成果こそが、リスクを伴う「地雷原」を追求する価値があると考えている。しかし、同社がこの方向へ突き進み続けるにつれ、アルトマン氏がユーザーと社会の利益よりも商業的成功を優先しているのではないかと懸念する声が多く上がっている。

フォン・アイン(出典: Tech.co、ガーディアン)

ソース: https://vtc.vn/mo-hinh-sieu-tri-tue-dang-sau-lum-xum-cua-openai-ar837315.html