人工知能が賢くなればなるほど、その無知を隠す可能性が高くなるのでしょうか?

スペインのバレンシア工科大学の人工知能（AI）研究チームは、大規模言語モデルがより大きく洗練されるにつれて、ユーザーに対して答えが分からないことを認める可能性が低くなる傾向があることを発見した。

AI が賢くなればなるほど、ユーザーに対して答えが分からないことを認める可能性が低くなります。(AI イラスト)

ネイチャー誌に掲載された研究で、研究チームは最も人気のあるAIチャットボット3種類の最新バージョンの応答性、正確性、ユーザーが誤った回答を見つける能力をテストした。

最も人気のある3つのLLM、BLOOM、LLaMA、GPTの精度をテストするため、研究チームは数千の質問を行い、得られた回答を同じ質問の以前のバージョンと比較しました。また、数学、科学、ワードパズル、地理など、様々なトピックを扱い、テキスト生成やリストの並べ替えなどの操作も行いました。

調査では、いくつかの注目すべき傾向が明らかになりました。チャットボットの全体的な精度はバージョンアップごとに向上しましたが、難しい質問に直面すると依然として低下しました。驚くべきことに、LLMの規模が大きくなり、より高度になるにつれて、正解率についてオープンに語る傾向が弱まりました。

以前のバージョンでは、ほとんどのLLMは、回答が見つからない場合や追加の情報が必要な場合に、ユーザーに明示的に通知していました。対照的に、新しいバージョンでは推測が多くなり、正解・不正解ともに回答数が増加しています。さらに懸念されるのは、すべてのLLMが簡単な質問に対しても時折誤った回答を出していることが調査で判明したことです。これは、LLMの信頼性が依然として改善の余地があることを示唆しています。

これらの調査結果は、AI の進化におけるパラドックスを浮き彫りにしています。つまり、モデルがより強力になる一方で、その限界についての透明性も低下する可能性があるということです。

これにより、AI システムの使用と信頼に新たな課題が生じ、ユーザーはより慎重になり、開発者はモデルの精度だけでなく「自己認識」の向上にも注力する必要があります。

出典: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html