AIは徐々に「オンライン医師」になりつつある。

ChatGPT、Gemini、ClaudeといったAIチャットボットの急速な発展は、人々が医療情報にアクセスする方法を変えつつあります。ほんの数行の質問だけで、ユーザーは症状、薬、病気、メンタルヘルスなどに関する回答をほぼ瞬時に受け取ることができ、病院で予約を取ったり待ったりする必要がなくなりました。

キングス・カレッジ・ロンドンが英国の2,000人以上を対象に行った調査によると、15％以上が一般開業医や国民保健サービス（NHS）などの公的医療制度に相談する代わりに、AIチャットボットを使って健康上の問題を尋ねたことがあると判明した。

身体的な問題だけでなく、AIはメンタルヘルスのサポートにも広く利用されている。調査対象者の約10%が、専門家ではなくチャットボットを使ってメンタルヘルスのサポートを求めていると回答した。AIが多くの健康問題に対する「最初の窓口」になりつつあることから、専門家はこの状況を憂慮すべき兆候と捉えている。

ほんの数行の質問だけで、ユーザーはAIチャットボットから症状、薬、病気、メンタルヘルスに関するほぼ瞬時の回答を受け取ることができます。（画像：nationalhealthexecutive.com）

調査によると、人々がAIを利用する最も一般的な理由は利便性である。参加者のほぼ半数が、チャットボットによってより迅速かつ容易に情報にアクセスできるようになったと回答した。その他多くの人々は、新しいテクノロジーへの好奇心から、あるいは自分の症状が医師に相談する必要があるほど深刻かどうか確信が持てないため、AIを利用している。

本研究の筆頭著者であるグラハム・ロード教授は、チャットボットの普及により「公衆衛生システムとは並行して規制されていないAI医療システム」が生まれていると指摘した。同教授によれば、AIは人々の医療へのアクセス方法を急速に変化させているが、それには信頼性、安全性、説明責任に関する重大な問題が伴うという。

この傾向は英国に限ったことではなく、多くの国で急速に拡大している。米国では、ウエスト・ヘルス・ギャラップ・センターが約5,600人の成人を対象に実施した医療に関する調査で、4人に1人が健康関連の情報やアドバイスを探すためにチャットボットを利用していることが明らかになった。また、約14%がAIから情報を受け取った後、医師の診察を受けなかったと回答している。

予期せぬリスク

AIチャットボットの人気が高まるにつれ、AIチャットボットによる不正確または危険なアドバイスという予測不可能なリスクに関する警告も数多く発せられている。最近の多くの研究によると、AIチャットボットは、特に複雑な医療状況やデータが不足している状況において、ユーザーに不正確な診断や潜在的に有害なアドバイスを提供する可能性があることが示されている。

マサチューセッツ総合病院ブリガム・アンド・ウィメンズ病院の研究者チームがJAMA Network Open誌に発表した研究では、21種類のAIモデルに架空の医療状況に対応する「医師の役割」を担わせた。その結果、チャットボットは実際の医師のように疑念を持ち続け、分析を続けるのではなく、性急に結論を出してしまうことが多かった。この研究では、これらのチャットボットが症例の80%を誤診していたことが明らかになった。

一方、BMJ Openに掲載された別の研究では、がん、ワクチン、栄養、その他誤情報が出やすい健康問題に関する250の質問で5つのAIチャットボットをテストしたところ、正答率は50%強にとどまり、誤った回答の約20%は従うと有害となる可能性があると判断された。この研究の共著者であるニコラス・ティラー氏は、最も懸念されるのは、AIが間違っている場合でも高い確信度で回答することが多いことだと述べた。「もし誰かがそのアドバイスに従ったら、害を受ける可能性が高い」と彼は語った。

最も懸念されるのは、多くの人がチャットボットを本物の医師と見なし始めていることだ。キングス・カレッジ・ロンドンが行った調査によると、AIを利用した人の約20％が、チャットボットの応答によって医師や医療専門家に診てもらう必要はないと考えたと回答している。さらに、約4分の1は、AIの応答を読んだ後、実際に医師の診察を受けないことに決めたと答えている。

これらの数字を受けて、専門家たちは、AIによって治療の遅延や医師の指導なしの自己治療が増加するのではないかと懸念している。

英国王立総合診療医協会会長のビクトリア・ツォルツィウ・ブラウン教授は、人々が対面での診察の代わりにAIを利用するようになると「深刻な懸念」が生じると警告した。同教授によれば、AIは迅速な回答を提供できるものの、身体診察、病歴の評価、微妙な兆候の認識、エビデンスに基づいた臨床判断に取って代わることはできない。「AIが提供する情報は不正確であったり、誤解を招くものであったり、重要な文脈を欠いている可能性がある」と同教授は強調した。

専門家によると、今日のチャットボットのほとんどは、主に自然な会話を生み出すように設計され、ユーザーを「喜ばせる」傾向のある大規模言語モデル（LLM）に基づいて構築されている。そのため、AIは質問者と議論したり、正確性を確認するためにさらに質問したりするよりも、質問者に同意する傾向がある。加えて、質問をすることでチャットボットが誤った方向に進んでしまう可能性もある。

ある事例では、チャットボットが当初、自宅で医療処置を行うことをユーザーに警告したものの、その後、詳細な手順を段階的に説明し始めた。デューク大学の専門家であるモニカ・アグラワル博士によると、本物の医師であれば、危険な指示を与え続けるのではなく、すぐに会話を打ち切ったはずだという。

研究者によると、AIは特にデータが限られている場合や、複数の診断が考えられる場合に苦戦する。専門家はまた、AIチャットボットはインターネット上の誤情報に脆弱であると警告している。2024年の実験では、研究者らは「ビクソニマニア」という架空の病気を作り出し、一連の偽造文書をオンラインに投稿した。わずか数週間後、多くのチャットボットがこの存在しない病気を実際の医学的診断として引用し始めた。

AIは、基本的な医学知識へのアクセス、専門文献の解説、医師の診察前の初期参考資料として役立つツールとなり得る一方で、専門家は、この技術はあくまで補助的なツールであり、医療専門家に取って代わるものではないと強調している。研究者らはまた、利用者の安全を確保するために、独立した規制および検証メカニズムを早期に確立するよう求めている。

    出典: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994