ドイツの研究者グループは最近、AIチャットボットを使って研究内容を要約する際に生じる可能性のある偏りについて警告を発した。同グループは、人間が執筆した4,900件の科学論文の要約を分析し、様々なAIモデルを用いてこれらのシステムがどのように情報を処理するかを比較した。その結果、ほとんどのチャットボットは、正確な要約を求められた場合でさえ、過度に一般化するという誤りを犯していることが明らかになった。
ChatGPTとDeepSeekは科学データを歪める。
ChatGPTやDeepSeekといったAIモデルは、特に医療分野において、科学的な内容を要約する際に、その内容を歪めてしまう可能性があることが分かっている。
AIは科学研究を要約する際に、内容を容易に歪めてしまう可能性がある。
実験では、AIモデルは、何の指示も受けずに放置した場合、人間の研究者よりも5倍も多くの誤りを犯した。明確な精度要件を設けた場合でも、誤り率は標準的な要約の場合の2倍にも達した。研究チームのメンバーの一人は、「一般化は一見無害に見えるかもしれないが、実際には元の研究の本質を変えてしまう。これは体系的なバイアスだ」とコメントした。
特筆すべきは、最新版のチャットボットは問題解決に失敗するだけでなく、むしろ問題を悪化させている点である。AIが生成する要約は、滑らかで魅力的な語り口で、あたかも信頼できるかのように見せかけるが、実際の内容は歪められている。例えば、DeepSeekは「安全で、かつ効果的に実施可能」というフレーズを「安全で、かつ効果的な治療法」に変更したが、これは研究の本来の結論とはかけ離れた解釈である。
別の例として、ラマモデルは、投与量、投与頻度、副作用を明示せずに、糖尿病治療薬に関する推奨事項を若い被験者に適用しました。読者である医師や医療従事者が元の研究と照合しない場合、このような要約は患者に直接的な危険をもたらす可能性があります。
専門家は、この現象はAIモデルの学習方法に起因すると考えている。現在主流のチャットボットの多くは、大量生産された科学ニュースなど、既に簡略化された二次データを用いて学習されている。AIがこの簡略化されたコンテンツを要約し続けるにつれて、歪みが生じるリスクが高まる。
精神保健分野のAI専門家は、AIの開発と利用に対する技術的な障壁を早急に設ける必要があると主張している。
チャットボットはコンテンツを容易に歪曲する可能性があるため、ユーザーは注意が必要です。
ユーザーが科学情報の学習にAIチャットボットを利用する機会が増えるにつれ、解釈における些細な誤りが急速に蓄積・拡散し、広範な誤解を招く可能性がある。科学への信頼が低下している現在、このリスクは特に懸念されるべきであり、十分な注意が必要である。
研究や知識普及へのAIの統合は、もはや後戻りできない流れです。しかし、専門家は、科学コンテンツの理解と検証において、テクノロジーが人間の役割を完全に代替することはできないと主張しています。医療などのリスクの高い分野でチャットボットを使用する場合、滑らかな言語体験や応答速度だけに焦点を当てるのではなく、正確性を最優先する必要があります。
出典:https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html











