เสียงปลอมแบบดีปเฟก ความกังวลใหม่เกี่ยวกับข้อมูลที่ผิดพลาด

สำนักงานอัยการสูงสุดของรัฐนิวแฮมป์เชียร์ประกาศเมื่อวันจันทร์ว่ากำลังสอบสวนการทุจริตการเลือกตั้ง หลังจากมีการร้องเรียนเกี่ยวกับเสียงปลอมที่ฟังดูเหมือนเสียงของประธานาธิบดีโจ ไบเดน ที่เรียกร้องให้ผู้มีสิทธิเลือกตั้งไม่ลงคะแนนเสียงในการเลือกตั้งขั้นต้นของรัฐ

นักวิจัยยังเตือนถึงการใช้เสียง Deepfake เพื่อเลียนแบบ นักการเมือง และผู้นำ โดยกรณีที่โดดเด่นเกิดขึ้นในปี 2023 ในสหราชอาณาจักร อินเดีย ไนจีเรีย ซูดาน เอธิโอเปีย และสโลวาเกีย

deepfake เสียงใหม่ ข้อมูลใหม่ รูปภาพปลอม 1 — บุคคลหนึ่งลงคะแนนเสียงในการเลือกตั้งขั้นต้นในรัฐนิวแฮมป์เชียร์ สหรัฐอเมริกา ภาพ: Getty

ผู้เชี่ยวชาญกล่าวว่า เสียง Deepfake กลายเป็นรูปแบบหนึ่งของข้อมูลที่บิดเบือนที่ได้รับความนิยม ต้องขอบคุณการเกิดขึ้นของเครื่องมือ AI ราคาประหยัดและมีประสิทธิภาพมากมายจากสตาร์ทอัพ Microsoft ยังได้พัฒนาโมเดล AI ใหม่ที่สามารถจำลองเสียงได้จากการบันทึกเสียงเพียงสามวินาที

“เมื่อพูดถึงการปรับแต่งภาพ ทุกคนคุ้นเคยกับ Photoshop หรืออย่างน้อยก็รู้ว่ามันมีอยู่” เฮนรี อัจเดอร์ ผู้เชี่ยวชาญด้าน AI และ Deepfake และที่ปรึกษาของ Adobe, Meta และ EY กล่าว “ยังมีคนตระหนักถึงการปรับแต่งเสียงน้อยมาก ซึ่งสำหรับผมแล้ว เรื่องนี้ทำให้เราตกอยู่ในความเสี่ยงอย่างมาก”

ในเดือนกันยายน NewsGuard ซึ่งเป็นระบบที่ประเมินคุณภาพและความน่าเชื่อถือของเว็บไซต์ข่าว ได้ค้นพบเครือข่ายบัญชี TikTok ที่ปลอมแปลงเป็นเว็บไซต์ข่าวจริง โดยใช้เนื้อหาที่สร้างโดย AI เพื่อเผยแพร่ทฤษฎีสมคบคิดและข้อมูลบิดเบือนทางการเมือง บันทึกเสียงจาก Deepfake รวมถึงเสียงของอดีตประธานาธิบดีบารัค โอบามา ของสหรัฐฯ มียอดวิวหลายร้อยล้านครั้ง

เสียงพากย์ปลอมเหล่านี้ดูเหมือนว่าจะสร้างขึ้นโดยเครื่องมือที่จัดทำโดย ElevenLabs ซึ่งได้รับการสนับสนุนจาก Andreessen Horowitz และคลิปดังกล่าวก็มียอดผู้เข้าชมหลายร้อยล้านครั้ง NewsGuard กล่าว

“ผู้ใช้บนแพลตฟอร์มของเรามากกว่า 99% กำลังสร้างเนื้อหาที่น่าสนใจ สร้างสรรค์ และเป็นประโยชน์ แต่เราตระหนักดีว่ายังมีกรณีการใช้งานในทางที่ผิดอยู่ และเราได้พัฒนาและนำมาตรการป้องกันมาใช้เพื่อจำกัดการใช้งานดังกล่าวอย่างต่อเนื่อง” ElevenLabs กล่าว

ElevenLabs ก่อตั้งขึ้นเมื่อสองปีก่อนโดย Piotr Dabkowski และ Mati Staniszewski อดีตพนักงานของ Google และ Palantir นำเสนอเครื่องมือสร้างเสียง AI ขั้นพื้นฐานให้ใช้งานฟรีเพียงคลิกเดียว แพ็กเกจสมัครสมาชิกมีราคาตั้งแต่ 1 ดอลลาร์ต่อเดือนไปจนถึง 330 ดอลลาร์ต่อเดือน หรือมากกว่านั้นสำหรับผู้ที่ต้องการบริการที่ซับซ้อนยิ่งขึ้น

เมื่อปีที่แล้ว หน่วยข่าวกรองของสหรัฐฯ ได้ออกมาเตือนในรายงานว่า "การหลอกลวงโดยใช้ AI แบบเฉพาะบุคคลได้เพิ่มขึ้นอย่างมาก เนื่องมาจากมีการเผยแพร่โมเดลการโคลนเสียงด้วย AI ที่ซับซ้อนและผ่านการฝึกอบรมมาเป็นอย่างดี"

นอกจากการหลอกลวงทางการเงินแล้ว ผู้เชี่ยวชาญทางการเมืองยังกำลังส่งสัญญาณเตือนภัยเกี่ยวกับคลิปเสียงดีปเฟกที่แพร่ระบาด รวมถึงการใช้ดีปเฟกสำหรับการโทรแบบโรโบคอลหรือแคมเปญต่างๆ “คุณสามารถสร้างแคมเปญข้อมูลบิดเบือนที่ทรงพลังและแพร่หลายได้โดยกำหนดเป้าหมายไปที่โทรศัพท์” เอเจ แนช รองประธานและเจ้าหน้าที่ฝ่ายข่าวกรองผู้ทรงคุณวุฒิของ ZeroFox กลุ่มรักษาความปลอดภัยทางไซเบอร์กล่าว

บริษัทเหล่านี้บางแห่งได้ดำเนินการเชิงรุกในการหาวิธีอื่นๆ เพื่อต่อสู้กับข้อมูลที่ผิดพลาด ไมโครซอฟท์ได้ออกแถลงการณ์ด้านจริยธรรมโดยกระตุ้นให้ผู้ใช้รายงานการใช้งานเครื่องมือเสียง AI ในทางที่ผิด ส่วน ElevenLabs ได้สร้างเครื่องมือตรวจจับของตนเองเพื่อระบุบันทึกเสียงที่สร้างขึ้นโดยระบบของตน

ในระหว่างการเลือกตั้งไนจีเรียปี 2023 คลิปวิดีโอที่ถูกปรับแต่งด้วย AI กลายเป็นกระแสไวรัลบนโซเชียลมีเดีย "โดยมีเจตนาที่จะชี้ว่าผู้สมัครฝ่ายค้านกำลังวางแผนที่จะโกงการเลือกตั้ง" ตามที่กลุ่ม สิทธิมนุษย ชน Freedom House เปิดเผย

ในสโลวาเกีย การบันทึกเสียงปลอมของผู้สมัครฝ่ายค้าน มิชาล ชิเมชกา ซึ่งดูเหมือนจะวางแผนโกงการเลือกตั้ง กลายเป็นกระแสไวรัลเพียงไม่กี่วันก่อนการเลือกตั้งประธานาธิบดีของประเทศในเดือนกันยายน

“ดีพเฟกในรัฐนิวแฮมป์เชียร์เป็นเครื่องเตือนใจถึงหลากหลายวิธีที่ดีพเฟกสามารถสร้างความสับสนและหลอกลวงได้” โรเบิร์ต ไวส์แมน ประธานกลุ่ม Public Citizen ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่สนับสนุนผู้บริโภค กล่าว “ช่วงเวลาของดีพเฟกทางการเมืองได้มาถึงแล้ว ผู้กำหนดนโยบายต้องดำเนินการอย่างรวดเร็วเพื่อสร้างมาตรการป้องกัน มิฉะนั้นเราจะเผชิญกับความวุ่นวายในการเลือกตั้ง”

ไม อันห์ (ตามรายงานของ FT)

แหล่งที่มา