 |
アンスロピックが新たにリリースした「クロード4」は、より賢くなったが、依然として幻覚作用がある。写真：アンスロピック |
サンフランシスコで開催されたアンスロピック初の開発者イベントで、CEOのダリオ・アモデイ氏は、現在のAIモデルは人間よりも低い確率で「幻覚」を作り出すことができると述べた。ここでの「幻覚」とは、AIが架空のコンテンツを作成しながらも、それを現実のように提示する現象を指す。
アモデイ氏は、AIが幻覚を起こすという事実が、アントロピック社のAGI（汎用人工知能）実現の目標を妨げるものではないと強調した。「基準によって異なりますが、AIモデルにおける幻覚の頻度はおそらく人間よりも低いでしょう。ただ、AIの間違い方が人間より驚くべきものなのです」と彼は述べた。
アモデイ氏は、業界で最も声高にAGIを提唱する人物の一人です。「人々は常にAIの『上限』を見つけようとしています」と彼は言います。「今のところ、そのような上限は見当たりません。」
 |
アントロピックCEOは「AI楽観主義」の提唱者の一人です。写真：アントロピック |
しかし、誰もが同意するわけではない。Google DeepMindのCEO、デミス・ハサビス氏は今週、現在のAIモデルは「穴だらけ」で、基本的な質問さえ間違えていると指摘した。
一部の新しいモデルでは、複雑な推論タスクにおいて問題の発生率が高くなっている兆候も見られます。OpenAIのo3およびo4-miniバージョンは、以前の推論モデルよりも幻覚の発生率が高くなっています。OpenAI自身もその理由を理解していません。
アモデイ氏はまた、人間は常に間違いを犯すと指摘した。そのため、AIが間違いを犯したからといって「十分に賢くない」わけではないと述べた。しかし、アントロピックのリーダーである同氏は、AIが極めて高い信頼性で虚偽の情報を出すと、簡単に問題を引き起こす可能性があることも認めた。
アモデイ氏の発言は、AIコミュニティにおいて、現在のモデルの真の能力について議論を巻き起こした。AIは錯覚を減らす上で大きな進歩を遂げていると認める専門家もいる一方で、AIが不正確な情報に過信する潜在的なリスクを警告する専門家もいる。
この議論は、AI業界が直面する大きな課題を反映しています。企業は、不確実性への対応が可能で、インテリジェントかつ信頼性の高いシステムの開発を目指しています。
出典: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html
コメント (0)