แพทย์อาจถูกปัญญาประดิษฐ์ (AI) หลอกได้

ผลการวิจัยใหม่แสดงให้เห็นว่าภาพเอกซเรย์ที่สร้างโดย AI มีความสมจริงมากขึ้นเรื่อยๆ ทำให้ยากที่จะแยกแยะออกจากภาพจริง และก่อให้เกิดความเสี่ยงอย่างมากต่อการดูแลสุขภาพดิจิทัล

ภาพถ่ายเอกซเรย์คู่ ซึ่งประกอบด้วยภาพจริงและภาพที่สร้างขึ้นโดย GPT-4o ในตำแหน่งต่างๆ บนร่างกาย แสดงให้เห็นว่า AI สามารถสร้างภาพทางการแพทย์ที่มีความสมจริงสูงได้ (ที่มา: RSNA)

เมื่อวันที่ 24 มีนาคม งานวิจัยโดยกลุ่มรังสีแพทย์ 18 คนจาก 12 สถาบัน ทางการแพทย์ ใน 6 ประเทศ (รวมถึงสหรัฐอเมริกา ฝรั่งเศส เยอรมนี ตุรกี สหราชอาณาจักร และสหรัฐอาหรับเอมิเรตส์) นำโดย ดร. Mickael Tordjman นักวิจัยหลังปริญญาเอกที่ Icahn School of Medicine, Mount Sinai (นิวยอร์ก สหรัฐอเมริกา) ได้รับการตีพิมพ์ในวารสาร Radiology ของ Radiological Society of North America (RSNA)

ผลการวิจัยแสดงให้เห็นว่าภาพเอกซเรย์ที่สร้างขึ้นโดยปัญญาประดิษฐ์ (AI) นั้นสมจริงมากจนไม่เพียงแต่มนุษย์เท่านั้น แต่แม้แต่ระบบ AI ขั้นสูงก็ยังยากที่จะระบุได้

จากภาพเอกซเรย์ทั้งหมด 264 ภาพที่ใช้ในการศึกษา ครึ่งหนึ่งเป็นภาพจริง และอีกครึ่งหนึ่งเป็นภาพที่สร้างขึ้นโดยปัญญาประดิษฐ์ (AI) แพทย์ที่เข้าร่วมได้ประเมินชุดข้อมูลสองชุดแยกกัน ซึ่งประกอบด้วยภาพเอกซเรย์จากหลายบริเวณของร่างกาย และชุดข้อมูลเอกซเรย์ทรวงอกเฉพาะทาง ที่สร้างขึ้นโดยใช้แบบจำลอง AI เช่น ChatGPT และ RoentGen

ผลการวิจัยแสดงให้เห็นว่า หากไม่มีการแจ้งเตือนล่วงหน้าเกี่ยวกับการมีอยู่ของภาพปลอม แพทย์สามารถระบุภาพที่สร้างโดย AI ได้ถูกต้องเพียง 41% เท่านั้น เมื่อได้รับการแจ้งเตือน อัตราความถูกต้องเพิ่มขึ้นเป็น 75% อย่างไรก็ตาม ความถูกต้องนั้นแตกต่างกันอย่างมากในแต่ละบุคคล โดยมีช่วงตั้งแต่ 58% ถึง 92%

ไม่เพียงแต่มนุษย์เท่านั้น แต่ระบบ AI แบบหลายโมดอลก็เผชิญกับความยากลำบากที่คล้ายคลึงกันเช่นกัน โมเดลทั้งสี่ที่ทดสอบได้ผลลัพธ์ความแม่นยำตั้งแต่ 57% ถึง 85% ที่น่าสังเกตคือ แม้แต่ระบบที่เกี่ยวข้องกับการสร้างภาพปลอมก็ยังไม่สามารถระบุสิ่งที่ตนเองสร้างขึ้นได้อย่างสมบูรณ์

ข้อค้นพบที่น่าสนใจอีกประการหนึ่งคือ ประสบการณ์หลายปีไม่ได้ช่วยเพิ่มความสามารถในการตรวจจับภาพที่มีลักษณะคล้ายสิ่งแปลกปลอม อย่างไรก็ตาม ผู้เชี่ยวชาญด้านศัลยกรรมกระดูกและข้อทำได้ดีกว่าผู้เชี่ยวชาญในสาขาอื่น ๆ

จากข้อมูลของทีมวิจัย ภาพเอกซเรย์ปลอมมักมีลักษณะทาง視覚ที่ละเอียดอ่อน เช่น โครงสร้างกระดูกที่เรียบเนียนเกินไป กระดูกสันหลังที่ตรงผิดปกติ ปอดที่สมมาตรอย่างสมบูรณ์แบบ เส้นเลือดที่กระจายตัวอย่างสม่ำเสมอ และรอยแตกที่ดู "สวยงามเกินไป" ซึ่งมักปรากฏเพียงด้านเดียวของกระดูกเท่านั้น

การค้นพบนี้ก่อให้เกิดความกังวลว่าภาพปลอมอาจถูกนำไปใช้ในการฟ้องร้อง หรือแทรกเข้าไปในระบบของโรงพยาบาลเพื่อบิดเบือนการวินิจฉัยโรค ขัดขวางการปฏิบัติทางการแพทย์ และทำลายความเชื่อมั่นในเวชระเบียนดิจิทัล

เพื่อลดความเสี่ยง นักวิจัยแนะนำให้ใช้มาตรการรักษาความปลอดภัย เช่น การฝังลายน้ำที่มองไม่เห็นลงในภาพ และใช้ลายเซ็นเข้ารหัสลับที่เชื่อมโยงกับช่างภาพเพื่อตรวจสอบแหล่งที่มาของข้อมูล

ดร. ทอร์ดจ์แมน กล่าวว่า สิ่งที่สังเกตได้จนถึงขณะนี้อาจเป็นเพียงส่วนเล็กๆ ของภูเขาน้ำแข็งเท่านั้น ขั้นตอนต่อไปของเทคโนโลยีนี้อาจเป็นการสร้างภาพทางการแพทย์แบบ 3 มิติ เช่น ภาพ CT หรือ MRI โดยใช้ AI ในบริบทนั้น การสร้างชุดข้อมูลฝึกฝนและเครื่องมือตรวจจับในขณะนี้จึงถือเป็นสิ่งสำคัญอย่างยิ่งในการรักษาความถูกต้องแม่นยำของการวินิจฉัยทางการแพทย์

ที่มา: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html