เกาหลีใต้ใช้ AI ตรวจจับวิดีโอการเลือกตั้งปลอม

โมเดล AI นี้มีชื่อว่า Aegis ตามชื่อโล่ที่ Zeus สวมใส่ โดย NEC จะใช้โมเดลนี้เพื่อตรวจจับวิดีโอ deepfake ที่สร้างโดย AI ที่ซับซ้อน ซึ่งยากต่อการระบุด้วยตาเปล่า

เจ้าหน้าที่ของเกาหลีใต้กล่าวเมื่อวันที่ 27 เมษายนว่า คณะกรรมการการเลือกตั้งแห่งชาติของประเทศ (NEC) ได้นำโมเดลปัญญาประดิษฐ์ (AI) มาใช้เพื่อตรวจจับข่าวปลอม ซึ่งพัฒนาโดยสำนักงานนิติวิทยาศาสตร์แห่งชาติ (NFS) เพื่อป้องกันการแพร่กระจาย วิดีโอ ปลอมประเภทดีปเฟกในช่วงการเลือกตั้งประธานาธิบดีครั้งหน้าในวันที่ 3 มิถุนายน

โมเดล AI นี้เรียกว่า Aegis ตามชื่อโล่ที่ Zeus ใช้ในตำนานเทพเจ้ากรีก NEC จะใช้ Aegis เพื่อตรวจจับวิดีโอ deepfake ที่ซับซ้อนซึ่งสร้างขึ้นโดย AI ซึ่งยากต่อการระบุด้วยตาเปล่า Aegis ได้รับการพัฒนาร่วมกันโดย NFS และสถาบันเทคโนโลยีอิเล็กทรอนิกส์แห่งเกาหลี (KETI)

NFS ดำเนินการวิจัยมาตั้งแต่เดือนเมษายนปีที่แล้วภายใต้โครงการที่จัดโดย KETI และได้รับทุนจากสถาบันวางแผนและประเมินเทคโนโลยีสารสนเทศและการสื่อสาร โครงการนี้เรียกว่า "เทคโนโลยีตรวจจับ Deepfake ที่พัฒนาตัวเองเพื่อป้องกันผลข้างเคียงทางสังคมที่เกิดจาก AI"

Aegis ได้รับการพัฒนาในปีที่สองของโครงการโดยมีส่วนร่วมของมหาวิทยาลัยตำรวจแห่งชาติเกาหลี, KAIST, Cleon (บริษัทสร้างใบหน้าและเสียงด้วย AI) และ Wysiwyg Studios (บริษัทผลิตภาพยนตร์) Aegis ได้รับการปรับปรุงเพื่อตรวจจับวิดีโอ Deepfake ที่ตรวจจับได้ยากที่สุด

ภายใต้กฎหมายการเลือกตั้งข้าราชการพลเรือนฉบับแก้ไขของเกาหลีใต้ ซึ่งจะมีผลบังคับใช้ในเดือนมกราคม พ.ศ. 2567 ถือเป็นสิ่งผิดกฎหมายในการผลิตหรือเผยแพร่คลิปวิดีโอ Deepfake ที่สร้างด้วย AI เพื่อวัตถุประสงค์ในการรณรงค์หาเสียง อย่างไรก็ตาม ในช่วงไม่กี่ปีที่ผ่านมา วิดีโอ Deepfake ที่ตั้งเป้าไปที่ผู้สมัครชิงตำแหน่งประธานาธิบดีชื่อดังได้แพร่หลายบนอินเทอร์เน็ต โดยส่วนใหญ่มีเนื้อหาหมิ่นประมาทหรือทำให้เสียชื่อเสียง ตัวอย่างเช่น วิดีโอ Deepfake ของนาย Lee Jae Myung ผู้สมัครพรรคประชาธิปไตย (DP) ที่กำลังสวมชุดนักโทษ หรือนาย Han Dong Hoon ผู้สมัครพรรคพลังประชาชน (PPP) ที่กำลังถอดผมปลอม

เมื่อวันที่ 9 เมษายน NEC ได้จัดตั้งหน่วยงานเฉพาะกิจเพื่อปราบปราม Deepfake ซึ่งเป็น AI ปลอม โดยใช้กระบวนการตรวจจับสามขั้นตอน ดังนั้นเบื้องต้นหัวหน้าจะตรวจสอบวีดิโอด้วยภาพก่อน หากแยกแยะวิดีโอได้ยาก จะมีการใช้โมเดล AI เช่น Aegis เพื่อวิเคราะห์วิดีโอ และในที่สุดจะมีการประเมินโดยผู้เชี่ยวชาญด้าน AI

“เราใช้ Aegis ของ NFS เป็นหลักเพราะว่ามีความแม่นยำในการตรวจจับสูง แต่เรายังตรวจสอบย้อนกลับกับโมเดลอื่นๆ อีกด้วย” เจ้าหน้าที่ของ NEC กล่าว

Aegis ได้รับการออกแบบมาเพื่อตรวจจับเอาต์พุตที่สร้างขึ้นผ่านวิธีการกระจาย ซึ่งเป็นหนึ่งในวิธีใหม่ล่าสุดสำหรับการสร้างภาพ AI มีวิธีสร้างภาพ AI หลักๆ สองวิธี ได้แก่ เครือข่ายการต่อต้านเชิงสร้างสรรค์ (GAN) และโมเดลการแพร่กระจาย GAN เกี่ยวข้องกับเครือข่ายประสาทสองเครือข่ายที่แข่งขันกันเพื่อสร้างภาพอย่างรวดเร็ว แต่ภาพที่ได้มักมีการบิดเบือน ทำให้ตรวจจับได้ง่ายขึ้น

ในทางกลับกัน เครื่องสร้างภาพใหม่ๆ เช่น Midjourney และ DALL-E จาก OpenAI ใช้แนวทางการแพร่กระจาย (เพิ่มสัญญาณรบกวนเทียมให้กับภาพ แล้วลบสัญญาณรบกวนออกเพื่อสร้างภาพที่มีความละเอียดสูงและคุณภาพสูง) ดังนั้น ภาพที่สร้างโดยวิธีการแพร่กระจายจึงแยกแยะจากภาพจริงได้ยากกว่ามาก หากใช้เพียงเทคนิคการตรวจจับทั่วไปเท่านั้น
Aegis ได้รับการปรับปรุงให้สามารถตรวจจับวิดีโอ Deepfake ที่ถูกสร้างโดยใช้เทคนิคการแพร่กระจาย

“เรากำลังติดตั้งระบบ Aegis ไม่เพียงเพื่อตรวจจับ deepfakes และ deepfakes เท่านั้น แต่ยังเพื่อวิเคราะห์ด้วยว่าเนื้อหาที่สร้างขึ้นนั้นมีจุดประสงค์ที่เป็นอันตรายหรือไม่” เจ้าหน้าที่ NFS กล่าว

(สำนักข่าวเวียดนาม/เวียดนาม+)

ที่มา: https://www.vietnamplus.vn/han-quoc-su-dung-tri-tue-nhan-tao-phat-hien-video-gia-mao-ve-bau-cu-post1035586.vnp