AI監視の時代は終わりつつある、と専門家が警告

AI大手の40人以上の研究者は、AIの思考を監視する能力が失われつつあり、人間が完全に制御を失う可能性があると警告している。

OpenAI、Google DeepMind、Meta、Anthropicの40人以上の研究者が、AIの制御を失うリスクについて前例のない警告を発した。

現代のモデルは言語で「考える」ようになり、人間が機械の内部ロジックを理解できるようになりましたが、これは非常に脆弱です。

アーキテクチャやトレーニング方法を少し変更するだけで、AI の心を読む能力は完全に消滅する可能性があります。

「現在の監視機能は非常に脆弱で、簡単に隠蔽される可能性がある」とOpenAIの研究者であるボーエン・ベイカー氏は警告する。

彼は、特に強化学習や非言語的推論アーキテクチャを適用する際に、将来の AI が人間から自分の考えを隠すことを学習する可能性があると懸念しています。

実際、透明性が求められているにもかかわらず、誤った正当化を生み出し、実際の目標を隠すモデルが数多く記録されています。

専門家は透明性を評価するための基準を策定し、それをAIトレーニングの中核要素にするよう求めている。

迅速に行動しなければ、AI が「考える」が誰も理解しないという、人類が作り上げたゲームで、人類は取り残されてしまう可能性がある。

読者の皆様、ぜひ他の動画もご覧ください：AIゴミ清掃｜ハノイ 18:00

出典: https://khoahocdoisong.vn/cua-so-giam-sat-ai-sap-khep-lai-cac-chuyen-gia-canh-bao-do-post2149040952.html