อันตรายแต่ป้องกันได้

เอสจีจีพี 30/03/2023 07:19 น.

Deepfake เป็นคำที่ผสมผสานแนวคิดของการเรียนรู้เชิงลึก (deep-learning) และของปลอม (fake) เข้าด้วยกัน เป็นเทคนิคการสังเคราะห์ภาพมนุษย์โดยใช้ปัญญาประดิษฐ์ (AI) Deepfake สามารถเชื่อมโยงใบหน้าของบุคคลหนึ่งเข้ากับใบหน้าของบุคคลอื่นใน วิดีโอ ได้อย่างสมจริงอย่างน่าทึ่ง

กรณีปลูกถ่ายใบหน้าเลียนแบบดาราดังต่างชาติ

Deepfake “เรียนรู้ด้วยตัวเอง” ได้อย่างไร?

Deepfake สร้างขึ้นบนแพลตฟอร์ม Machine Learning แบบโอเพนซอร์สของ Google โดยใช้ AI ในการสแกนวิดีโอและภาพบุคคลของบุคคล ผสานเข้ากับวิดีโอแยกต่างหาก และแทนที่รายละเอียดใบหน้า เช่น ตา จมูก ปาก ฯลฯ ด้วยการเคลื่อนไหวของใบหน้าที่ใกล้เคียงและเป็นธรรมชาติมากที่สุด อัลกอริทึมนี้ ยิ่งมีวิดีโอและรูปภาพต้นฉบับมากเท่าไหร่ AI ก็ยิ่งมีความแม่นยำมากขึ้นเท่านั้น และวิดีโอปลอมก็จะยิ่งสมจริงมากขึ้นเท่านั้น Deepfake ยังสามารถใช้เสียงที่บันทึกไว้ของบุคคลเพื่อฝึกคอมพิวเตอร์ให้พูดเหมือนกับบุคคลนั้นได้

เทคโนโลยี Deepfake กำลังดีขึ้นเรื่อยๆ

ในช่วงแรก แอปพลิเคชัน Deepfake AI ถูกสร้างขึ้นเพื่อ "สลับ" ใบหน้าและเสียงของผู้ใช้ให้กลายเป็นตัวละครในภาพยนตร์ชื่อดัง ซึ่งถือเป็นก้าวต่อไปของเทรนด์การสร้างภาพและเสียงพากย์ตลกขบขันสำหรับคลิปวิดีโอที่เคยสร้างความฮือฮาเมื่อนานมาแล้ว

บริษัทที่ให้บริการซอฟต์แวร์ Deepfake อ้างว่าแอปพลิเคชันของพวกเขาไม่ได้เกิดมาด้วยเจตนาไม่ดี แต่เป็นเพียงแอปพลิเคชันเพื่อความบันเทิง อย่างไรก็ตาม เนื่องจากเทคโนโลยีนี้ถูกนำไปใช้ในวัตถุประสงค์ที่ไม่ดี เมื่อเร็ว ๆ นี้ เมื่อพูดถึง Deepfake ผู้คนมักจะนึกถึงเครื่องมือที่ไม่ดี

จากข้อมูลของฟอรัม เศรษฐกิจ โลก (WEF) จำนวนวิดีโอ Deepfake กำลังเติบโตในอัตรา 900% ต่อปี ความก้าวหน้าทางเทคโนโลยีล่าสุดทำให้การผลิตวิดีโอเหล่านี้ง่ายขึ้น

หากถูกปลอมแปลงโดย Deepfake ประชาชนควรแจ้งเพื่อนและญาติทันที และแจ้งเจ้าหน้าที่ผ่าน: หน้าคำเตือนด้านความปลอดภัยของข้อมูลเวียดนาม: canhbao.ncsc.gov.vn; โครงการต่อต้านการฉ้อโกง: chongluadao.vn ประชาชนควรสร้างความตระหนักรู้เกี่ยวกับการฉ้อโกงในโลกไซเบอร์ผ่านเว็บไซต์: dauhieuluadao.com
โง มินห์ ฮิเออ - ศูนย์เฝ้าระวังความปลอดภัยทางไซเบอร์แห่งชาติ

วิธีการระบุ Deepfake

เนื่องจากพลังการประมวลผลของแอปพลิเคชัน Deepfake ยังไม่สมบูรณ์แบบอย่างแท้จริง วิดีโอที่ใช้ Deepfake จึงมักมีขนาดเล็ก ความยาวสั้น และมีคุณภาพเสียงและภาพต่ำ

การเคลื่อนไหวของร่างกายตัวละครใน Deepfake น้อยลง โดยเฉพาะการเคลื่อนไหวด้านข้าง คว่ำหน้าขึ้นหรือคว่ำหน้าลง เมื่อเทียบกับวิดีโอปกติ และไม่มีการเคลื่อนไหวอย่างการขยี้ตา ปิดหน้า หรือกระพริบตา เนื่องจาก AI มักจะจัดการกับข้อผิดพลาดเมื่อใบหน้าถูกปิดบังเพียงบางส่วน

วิดีโอ Deepfake ที่สร้างด้วย AI จะมีจุดอ่อน เช่น แสงสะท้อนที่ไม่สม่ำเสมอจากดวงตาของตัวละครทั้งสองข้าง แสงเงาบนใบหน้าที่ไม่เป็นธรรมชาติ พื้นที่หลายจุดบนใบหน้าแทบไม่เปลี่ยนแปลง ทำให้มีการแสดงออกทางสีหน้า อารมณ์ และเสียงที่ไม่เป็นธรรมชาติ...

เมื่อโทรวิดีโอคอล ผู้ใช้สามารถขอให้ผู้โทรยกมือขึ้นแตะใบหน้า หรือหันหน้าไปทางซ้าย ขวา ฯลฯ เพื่อเพิ่มการตรวจจับท่าทาง ขณะเดียวกัน เพื่อเพิ่มความระมัดระวัง จำเป็นต้องพูดคุยกับผู้โทรบ่อยๆ เพื่อให้แน่ใจว่าการสนทนานั้นเป็นการสนทนาจริง ไม่ใช่การพูดคุยผ่านวิดีโอที่บันทึกไว้ล่วงหน้า โดยเฉพาะอย่างยิ่ง จำเป็นต้องใส่ใจกับข้อมูลที่เกี่ยวข้องกับการโอนเงิน การส่งข้อมูลไปยังที่อยู่แปลกหน้า บัญชีแปลกหน้า ฯลฯ

วู ง็อก ซอน

ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี บริษัท เทคโนโลยี ความปลอดภัยทางไซเบอร์แห่งชาติเวียดนาม

แหล่งที่มา