Vietnam.vn - Nền tảng quảng bá Việt Nam

ChatGPTとDeepSeekは科学データを歪める。

ChatGPTやDeepSeekといったAIモデルは、特に医療分野において、科学的な内容を要約する際に、その内容を歪めてしまう可能性があることが分かっている。

Báo Khoa học và Đời sốngBáo Khoa học và Đời sống08/07/2025

ドイツの研究者グループは最近、AIチャットボットを使って研究内容を要約する際に生じる可能性のある偏りについて警告を発した。同グループは、人間が執筆した4,900件の科学論文の要約を分析し、様々なAIモデルを用いてこれらのシステムがどのように情報を処理するかを比較した。その結果、ほとんどのチャットボットは、正確な要約を求められた場合でさえ、過度に一般化するという誤りを犯していることが明らかになった。

aiチャットボットとは何か.jpg

AIは科学研究を要約する際に、内容を容易に歪めてしまう可能性がある。

実験では、AIモデルは、何の指示も受けずに放置した場合、人間の研究者よりも5倍も多くの誤りを犯した。明確な精度要件を設けた場合でも、誤り率は標準的な要約の場合の2倍にも達した。研究チームのメンバーの一人は、「一般化は一見無害に見えるかもしれないが、実際には元の研究の本質を変えてしまう。これは体系的なバイアスだ」とコメントした。

特筆すべきは、最新版のチャットボットは問題解決に失敗するだけでなく、むしろ問題を悪化させている点である。AIが生成する要約は、滑らかで魅力的な語り口で、あたかも信頼できるかのように見せかけるが、実際の内容は歪められている。例えば、DeepSeekは「安全で、かつ効果的に実施可能」というフレーズを「安全で、かつ効果的な治療法」に変更したが、これは研究の本来の結論とはかけ離れた解釈である。

あなたへのおすすめ
Viettelは、AIソリューションを開発する競合チームに対し、実世界のデータを公開する。
Viettelは、AIソリューションを開発する競合チームに対し、実世界のデータを公開する。7月2日、ベトナム軍事通信グループ(Viettel)は、Viettel AI Race 2026コンテストを開始しました。今年のコンテストのハイライトは、優秀なチームが実世界のデータにアクセスし、専門家と直接協力しながら、Viettelの生産および事業運営が直面する問題を解決できる点です。
故意に自分の名義で登録されていないSIMカードを使用した場合、最大5,000万ベトナムドンの罰金が科せられます。
故意に自分の名義で登録されていないSIMカードを使用した場合、最大5,000万ベトナムドンの罰金が科せられます。侵害している電話番号の数に応じて、自分の名義で登録されていないSIMカードを意図的に使用した個人や組織は、20万ベトナムドンから5000万ベトナムドンの罰金を科せられる。
決議57/NQ-TWから「メイク・イン・ベトナム」AIエコシステムの形成まで。
決議57/NQ-TWから「メイク・イン・ベトナム」AIエコシステムの形成まで。決議57/NQ-TWは、2030年までにベトナムが東南アジアにおける人工知能の研究開発分野でトップ3に入ることを目標としている。

別の例として、ラマモデルは、投与量、投与頻度、副作用を明示せずに、糖尿病治療薬に関する推奨事項を若い被験者に適用しました。読者である医師や医療従事者が元の研究と照合しない場合、このような要約は患者に直接的な危険をもたらす可能性があります。

専門家は、この現象はAIモデルの学習方法に起因すると考えている。現在主流のチャットボットの多くは、大量生産された科学ニュースなど、既に簡略化された二次データを用いて学習されている。AIがこの簡略化されたコンテンツを要約し続けるにつれて、歪みが生じるリスクが高まる。

精神保健分野のAI専門家は、AIの開発と利用に対する技術的な障壁を早急に設ける必要があると主張している。

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

チャットボットはコンテンツを容易に歪曲する可能性があるため、ユーザーは注意が必要です。

ユーザーが科学情報の学習にAIチャットボットを利用する機会が増えるにつれ、解釈における些細な誤りが急速に蓄積・拡散し、広範な誤解を招く可能性がある。科学への信頼が低下している現在、このリスクは特に懸念されるべきであり、十分な注意が必要である。

外務省は、駐ベトナム米国大使への信任状の写しを受け取った。
外務省は、駐ベトナム米国大使への信任状の写しを受け取った。7月2日午後、外務省本部において、国家儀典・外国通訳局長のレ・コン・ズン氏は、ジェニファー・ウィックス駐ベトナム米国大使から信任状の写しを受け取った。
グエン・クオック・ズン大使がアメリカ合衆国ミネソタ州を訪問し、そこで活動を行った。
グエン・クオック・ズン大使がアメリカ合衆国ミネソタ州を訪問し、そこで活動を行った。6月28日から30日にかけて、ベトナムの駐米大使であるグエン・クオック・ズン氏がミネソタ州を訪問し、同州で執務を行った。
ベトナムは米国企業に対し、ハイテク分野への投資拡大を奨励している。
ベトナムは米国企業に対し、ハイテク分野への投資拡大を奨励している。6月26日午前、ホー・クオック・ズン副首相は政府本部で、コヒーレント・グループ(米国)のサプライチェーン・ディレクターであるジェフ・プレイス氏と会談した。会談の中で、副首相は、ベトナムは米国企業に対し、特にハイテク、イノベーション、半導体産業への投資拡大を奨励していると述べた。

研究や知識普及へのAIの統合は、もはや後戻りできない流れです。しかし、専門家は、科学コンテンツの理解と検証において、テクノロジーが人間の役割を完全に代替することはできないと主張しています。医療などのリスクの高い分野でチャットボットを使用する場合、滑らかな言語体験や応答速度だけに焦点を当てるのではなく、正確性を最優先する必要があります。


出典:https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html

カテゴリ別トレンド

よく読まれています

Google Trends

同じ著者

遺産

人物

企業

時事問題

政治システム

地方

商品

Happy Vietnam
夜明け

夜明け

モン族の笛祭り

モン族の笛祭り

サンセットダンス

サンセットダンス