การระเบิดของอินเทอร์เน็ตและเครือข่ายโซเชียลทำให้เนื้อหาที่ผู้ใช้สร้างขึ้นได้รับความนิยมเพิ่มมากขึ้น และในเวลาเดียวกันก็นำไปสู่กระแสข่าวปลอมและข่าวที่ไม่เป็นทางการที่แพร่หลาย
ข้อมูลเท็จเหล่านี้ไม่เพียงแต่ทำให้เกิดความสับสนในหมู่ผู้คนในด้านที่มีความละเอียดอ่อน เช่น สุขภาพ ภัยธรรมชาติ นโยบายสาธารณะ ฯลฯ เท่านั้น แต่ยังนำไปสู่ผลลัพธ์ที่ร้ายแรง เช่น การสูญเสียทาง เศรษฐกิจ การสูญเสียชื่อเสียงขององค์กร และภัยคุกคามต่อความมั่นคงของชาติอีกด้วย
VeGraph เป็นวิธีการตรวจสอบข้อมูลที่วิจัยและพัฒนาโดยทีมวิศวกรของ Viettel Data Services และศูนย์ปัญญาประดิษฐ์ (Viettel AI) (ภาพ: Viettel AI)
หากในอดีตข้อมูลเหล่านี้มีผลกระทบเฉพาะในช่วงเวลาและขอบเขตที่กำหนดเท่านั้น ปัจจุบันข้อมูลเหล่านี้กำลังกลายเป็นอันตรายมากขึ้นเมื่อกลายเป็นส่วนหนึ่งของข้อมูลอินพุตสำหรับระบบปัญญาประดิษฐ์ (AI) ในกระบวนการค้นหาและรวบรวมข้อมูลเพื่อตอบสนองต่อผู้ใช้ ระบบต่างๆ เช่น แชทบอทและผู้ช่วยเสมือน ล้วนมีความสามารถในการใช้ สร้าง หรือเผยแพร่ข้อมูลเท็จได้อย่างสมบูรณ์ หากระบบเหล่านั้นไม่มีความสามารถในการตรวจสอบตนเอง
การตรวจสอบข้อเท็จจริงคือกระบวนการตรวจสอบว่าข้อมูลชิ้นหนึ่งเป็นจริงหรือเท็จ ตัวอย่างเช่น เป้าหมายของการตรวจสอบข้อเท็จจริงสำหรับข้อความ “นาซาพบสิ่งมีชีวิตบนดาวอังคาร” คือการตรวจสอบว่าข้อมูลดังกล่าวอ้างอิงจากข้อเท็จจริงที่เผยแพร่แล้วหรือไม่ ผ่านแหล่งข้อมูลที่เชื่อถือได้ เช่น หนังสือพิมพ์ ข้อมูล ทางวิทยาศาสตร์ หรือฐานข้อมูลความรู้
ในการตรวจสอบข้อมูลด้วยตนเอง ระบบ AI จะต้องสามารถเข้าใจประโยค ค้นหาข้อมูลที่เกี่ยวข้อง และสรุปผลเชิงตรรกะจากข้อมูลเชิงวัตถุได้
VeGraph (Verify-in-the-Graph) เป็นวิธีการตรวจสอบข้อมูลที่ได้รับการวิจัย พัฒนา และนำเสนอโดยทีมวิศวกรของ Viettel Data Services และศูนย์ปัญญาประดิษฐ์ (Viettel AI) ในงาน NAACL 2025 ซึ่งเป็นหนึ่งในสามการประชุมนานาชาติชั้นนำด้านการประมวลผลภาษาธรรมชาติ
ผลการทดลองจากชุดข้อมูลการตรวจสอบยอดนิยมสองชุด ได้แก่ HoVer และ FEVEROUS แสดงให้เห็นว่า VeGraph ปรับปรุงความแม่นยำได้ 2-5% เมื่อเทียบกับวิธีการที่มีอยู่
วิธีการตรวจสอบข้อเท็จจริงในปัจจุบันส่วนใหญ่ยังคงมีปัญหาในการจัดการกับข้อความที่คลุมเครือ เชิงเปรียบเทียบ หรือมีหลายชั้น ซึ่งมักใช้เพื่อ "ปกปิด" ข้อมูลเท็จ และไม่สามารถอธิบายได้อย่างชัดเจนว่าเหตุใดเนื้อหาชิ้นหนึ่งจึงถือเป็นเท็จ ทำให้ผู้ใช้ยากที่จะเชื่อถือผลลัพธ์ได้
วิธีการต่างๆ มากมายยังต้องพึ่งพาโมเดลภาษาขนาดใหญ่ (LLM) อย่างมาก ซึ่งขาดความสามารถในการตรวจสอบกับแหล่งความรู้ที่เชื่อถือได้ ส่งผลให้มีความเสี่ยงต่อการเกิดข้อสรุปที่ผิดพลาด ซึ่งเรียกอีกอย่างว่า "ภาพหลอน"
ต่างจากเครื่องมือที่เพียงแค่อนุมานภายในแบบจำลอง VeGraph จะแบ่งคำขอตรวจสอบข้อมูลออกเป็นข้อเสนอเล็กๆ เชิงรุก แล้วเปรียบเทียบกับข้อมูลอ้างอิงที่เชื่อถือได้ เช่น เอกสารทางกฎหมาย ฐานข้อมูลภาครัฐ เอกสารเฉพาะทาง ฯลฯ กระบวนการตรวจสอบทั้งหมดได้รับการจัดระบบเป็นขั้นตอนที่ชัดเจน ทำให้ผู้ใช้สามารถติดตามและตรวจสอบได้ง่าย ช่วยเพิ่มความแม่นยำ ซึ่งเป็นปัจจัยสำคัญที่เพิ่มมากขึ้นในการใช้งาน AI ฟีเจอร์นี้ยังช่วยให้องค์กรต่างๆ สามารถปรับและปรับปรุงระบบได้อย่างรวดเร็วเมื่อจำเป็น
VeGraph มุ่งมั่นที่จะสร้างสภาพแวดล้อมดิจิทัลที่โปร่งใสและปลอดภัย จึงได้รับเสียงชื่นชมอย่างสูงจากการใช้งานจริง นอกจากความสามารถในการผสานรวมเข้ากับระบบ AI เพื่อเพิ่มความแม่นยำแล้ว เทคโนโลยีนี้ยังสามารถพัฒนาเป็นระบบตรวจสอบข้อมูลในหลากหลายสาขา เช่น สาธารณสุข วารสารศาสตร์ กฎหมาย หรือการบริหารจัดการภาครัฐ... ด้วยเหตุนี้ ผู้คนจึงสามารถตรวจสอบข้อมูลสำคัญที่ต้องการความถูกต้องสูงด้วยตนเอง เช่น ข่าวสารปัจจุบัน ข้อมูลเกี่ยวกับยา วัคซีน เภสัชภัณฑ์ หรือกฎหมายต่างๆ...
ระบบต่างๆ เช่น แชทบอทและผู้ช่วยเสมือนมีศักยภาพในการใช้ สร้าง หรือเผยแพร่ข้อมูลเท็จได้อย่างเต็มที่หากไม่สามารถตรวจสอบตนเองได้ (ภาพ: Viettel AI)
ในอนาคต VeGraph จะได้รับการขยายตัวเพื่อรองรับรูปแบบข้อมูลที่หลากหลาย เช่น รูปภาพ วิดีโอ เสียง ฯลฯ จดจำรูปแบบภาษาที่ซับซ้อน เช่น อุปมา ความหมายที่ตามมา และรวมกราฟความรู้เพื่อปรับปรุงความสามารถในการใช้เหตุผล
NAACL 2025 (การประชุมประจำปีของ Nations of the Americas Chapter of the Association for Computational Linguistics) เป็นเวทีทางวิทยาศาสตร์ชั้นนำของโลกในสาขาการประมวลผลภาษาธรรมชาติและภาษาศาสตร์เชิงคำนวณ
ปีนี้ การประชุมครั้งนี้ดึงดูดบทความวิจัยมากกว่า 3,000 ชิ้น โดยมีอัตราการตอบรับบทความวิจัยกระแสหลักที่สูงมาก (ประมาณ 22%) ซึ่งรวบรวมงานวิจัยที่ก้าวล้ำที่สุดไว้ด้วยกัน NAACL 2025 มุ่งเน้นไปที่ความก้าวหน้าครั้งสำคัญในการพัฒนาแบบจำลองภาษาขนาดใหญ่ การประมวลผลภาษาธรรมชาติข้ามวัฒนธรรมและหลายภาษา ความสามารถในการอนุมานที่เกิดขึ้นใหม่ และปัญญาประดิษฐ์ (AI) ที่มีความรับผิดชอบ
Viettel AI เป็นหน่วยงานภายใต้กลุ่มอุตสาหกรรมการทหาร - โทรคมนาคม (Viettel) ซึ่งเป็นผู้บุกเบิกในการเรียนรู้และพัฒนาผลิตภัณฑ์และบริการในด้าน AI, Big Data, Robotics และ Digital Twin
ในปัจจุบัน ระบบนิเวศ AI ของ Viettel ประกอบด้วยกลุ่มผลิตภัณฑ์จำนวนมากที่มีคุณภาพชั้นนำในเวียดนาม ได้รับความไว้วางใจและใช้งานโดยองค์กรและบริษัทขนาดใหญ่ในประเทศและต่างประเทศหลายแห่ง
ที่มา: https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm
การแสดงความคิดเห็น (0)