 |
| 実際のX線画像と、GPT-4oによって生成された画像からなる、身体の異なる部位におけるX線画像のペアは、AIが非常にリアルな医療画像を生成できることを示している。（出典：RSNA） |
3月24日、アイカーン・マウントサイナイ医科大学（米国ニューヨーク）の博士研究員であるミカエル・トルジマン博士が率いる、6か国（米国、フランス、ドイツ、トルコ、英国、アラブ首長国連邦を含む）の12の医療機関に所属する18人の放射線科医による研究が、北米放射線学会（RSNA）の機関誌「 Radiology 」に掲載された。
研究によると、人工知能（AI）によって生成されるX線画像は非常にリアルになり、人間だけでなく高度なAIシステムでさえも識別が困難になっているという。
本研究で使用された264枚のX線画像のうち、半分は実際の画像、半分はAIによって生成された画像であった。参加した医師たちは、ChatGPTやRoentGenなどのAIモデルを用いて生成された、複数の身体部位を含むデータセットと、胸部X線画像に特化したデータセットという、2つの異なるデータセットを評価した。
結果によると、偽画像の存在を事前に知らされていなかった場合、医師はAI生成画像の41%しか正しく識別できなかった。警告を受けた場合は、この割合は75%に上昇した。ただし、個人によって正答率は大きく異なり、58%から92%の範囲であった。
人間だけでなく、マルチモーダルAIシステムも同様の困難に直面している。テストされた4つのモデルの精度は57%から85%の範囲だった。特筆すべきは、偽画像を作成したシステムでさえ、自ら作成した画像を完全に識別できなかったことである。
もう一つ注目すべき点は、経験年数が増えても、アーチファクトのような画像を検出する能力は向上しなかったことである。ただし、整形外科専門医は他の専門分野の医師よりも優れた成績を示した。
研究チームによると、偽造X線画像には、過度に滑らかな骨構造、異常にまっすぐな脊椎、完全に左右対称な肺、均等に分布した血管、そして「美しすぎる」骨折など、微妙な視覚的特徴がしばしば見られ、骨折は骨の片側だけに現れることが多いという。
今回の発見は、偽造画像が訴訟で使用されたり、病院のシステムに挿入されて診断を操作したり、臨床診療を混乱させたり、電子カルテへの信頼を損なったりする可能性があるという懸念を引き起こしている。
リスクを軽減するために、研究者らは、画像に目に見えない透かしを埋め込むことや、写真家に関連付けられた暗号署名を使用してデータの出所を検証することなどのセキュリティ対策を実施することを提案している。
トルジマン博士によれば、これまでに観測された現象は氷山の一角に過ぎない可能性がある。この技術の次のステップは、AIを用いてCTやMRIのような3D医療画像を生成することかもしれない。そのため、医療診断の精度を確保するには、トレーニングデータセットと検出ツールの構築が不可欠であると考えられている。
出典：https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html
コメント (0)