เสียงปลอมแบบ Deepfakes ความกังวลใหม่เกี่ยวกับข้อมูลที่ผิดพลาด

เมื่อวันจันทร์ สำนักงานอัยการสูงสุดของรัฐนิวแฮมป์เชียร์ประกาศว่ากำลังเริ่มการสืบสวนการทุจริตการเลือกตั้งที่อาจเกิดขึ้น เหตุการณ์นี้เกิดขึ้นหลังจากที่มีคำร้องเรียนเกี่ยวกับเสียงปลอม ซึ่งฟังดูเหมือนกับเสียงของประธานาธิบดีโจ ไบเดนของสหรัฐฯ อย่างยิ่ง โดยเรียกร้องให้ผู้มีสิทธิเลือกตั้งไม่ไปลงคะแนนในการเลือกตั้งขั้นต้นของรัฐ

นักวิจัยยังเตือนถึงการใช้เสียงแบบ Deepfake เพื่อเลียนแบบ นักการเมือง และผู้นำ โดยกรณีที่โดดเด่นเกิดขึ้นในปี 2023 ในสหราชอาณาจักร อินเดีย ไนจีเรีย ซูดาน เอธิโอเปีย และสโลวาเกีย

deepfake ใหม่ เสียงใหม่ ข้อมูลใหม่ เท็จ รูปภาพ 1 — บุคคลหนึ่งลงคะแนนเสียงในการเลือกตั้งขั้นต้นในรัฐนิวแฮมป์เชียร์ สหรัฐอเมริกา ภาพ: Getty

ผู้เชี่ยวชาญเผยว่าเสียงแบบ Deepfake กลายเป็นรูปแบบหนึ่งของข้อมูลที่ผิดพลาดเนื่องจากมีเครื่องมือ AI ที่มีราคาถูกและมีประสิทธิภาพเกิดขึ้นจากสตาร์ทอัพจำนวนมาก Microsoft ยังได้พัฒนาโมเดล AI ใหม่ที่สามารถจำลองเสียงได้ตั้งแต่การบันทึกเพียงสามวินาที

Henry Ajder ผู้เชี่ยวชาญด้าน AI และ Deepfake และที่ปรึกษาของ Adobe, Meta และ EY กล่าวว่า “เมื่อพูดถึงการปรับแต่งภาพ ทุกคนคุ้นเคยกับ Photoshop หรืออย่างน้อยก็รู้ว่ามันมีอยู่” “มีการตระหนักรู้เพียงเล็กน้อยว่าเสียงอาจถูกดัดแปลงได้อย่างไร ดังนั้น สำหรับฉันแล้ว นั่นทำให้เราตกอยู่ในความเสี่ยงจริงๆ”

ในเดือนกันยายน NewsGuard ซึ่งเป็นระบบที่ให้คะแนนคุณภาพและความน่าเชื่อถือของเว็บไซต์ข่าว ได้ค้นพบเครือข่ายบัญชี TikTok ที่ปลอมแปลงเป็นเว็บไซต์ข่าวที่ถูกกฎหมาย โดยใช้เนื้อหาที่สร้างด้วย AI เพื่อเผยแพร่ทฤษฎีสมคบคิดและข้อมูลที่ผิดพลาดทางการเมือง การบันทึกเสียงแบบ Deepfake รวมถึงเสียงของอดีตประธานาธิบดีบารัค โอบามาของสหรัฐฯ มีผู้เข้าชมหลายร้อยล้านครั้ง

เสียงพากย์ปลอมเหล่านี้ดูเหมือนว่าจะสร้างขึ้นโดยเครื่องมือที่จัดทำโดย ElevenLabs ที่ได้รับการสนับสนุนจาก Andreessen Horowitz ในขณะที่คลิปเหล่านี้มีผู้เข้าชมหลายร้อยล้านครั้ง NewsGuard กล่าว

“ผู้ใช้บนแพลตฟอร์มของเรามากกว่า 99% กำลังสร้างเนื้อหาที่น่าสนใจ สร้างสรรค์ และเป็นประโยชน์ แต่เราตระหนักว่ายังมีบางกรณีของการใช้งานในทางที่ผิด และเราได้พัฒนาและนำมาตรการป้องกันมาใช้เพื่อจำกัดการใช้งานดังกล่าวอย่างต่อเนื่อง” ElevenLabs กล่าว

ElevenLabs ก่อตั้งเมื่อสองปีก่อนโดย Piotr Dabkowski และ Mati Staniszewski อดีตพนักงานของ Google และ Palantir โดยนำเสนอเครื่องมือสร้างเสียงด้วย AI ขั้นพื้นฐานให้ใช้งานฟรีเพียงคลิกเดียว แผนการสมัครสมาชิกมีตั้งแต่เดือนละ 1 ดอลลาร์ไปจนถึง 330 ดอลลาร์ต่อเดือนและสูงกว่านั้นสำหรับผู้ที่ต้องการบริการที่ซับซ้อนมากขึ้น

เมื่อปีที่แล้ว หน่วยข่าวกรองของสหรัฐฯ ได้ออกมาเตือนในรายงานว่า “การหลอกลวงโดยใช้ AI แบบเฉพาะบุคคลได้เพิ่มมากขึ้นอย่างมีนัยสำคัญ เนื่องมาจากมีการเผยแพร่โมเดลการโคลนเสียงด้วย AI ที่ซับซ้อนและผ่านการฝึกฝนมาเป็นอย่างดี”

นอกจากการหลอกลวงทางการเงินแล้ว ผู้เชี่ยวชาญทางการเมืองยังกำลังส่งสัญญาณเตือนเกี่ยวกับคลิปเสียง Deepfake ที่เป็นไวรัล รวมถึงการใช้ Deepfake ในการโทรโฆษณาหรือการรณรงค์ด้วย “คุณสามารถสร้างแคมเปญเผยแพร่ข้อมูลเท็จที่มีพลังและแพร่หลายได้โดยการกำหนดเป้าหมายไปที่โทรศัพท์” AJ Nash รองประธานและผู้เชี่ยวชาญด้านข่าวกรองแห่งกลุ่มความปลอดภัยทางไซเบอร์ ZeroFox กล่าว

บริษัทบางแห่งได้พยายามหาหนทางอื่นอย่างจริงจังในการต่อสู้กับข้อมูลที่ผิดพลาด Microsoft ได้ออกแถลงการณ์เกี่ยวกับจริยธรรม โดยกระตุ้นให้ผู้ใช้รายงานการใช้งานเครื่องมือเสียง AI โดยมิชอบ ElevenLabs ได้สร้างเครื่องมือตรวจจับของตัวเองเพื่อระบุการบันทึกที่สร้างขึ้นโดยระบบของตน

ระหว่างการเลือกตั้งไนจีเรียปี 2023 คลิปที่ถูกปรับแต่งโดย AI กลายเป็นกระแสไวรัลในโซเชียลมีเดีย "โดยอ้างว่าผู้สมัครฝ่ายค้านกำลังวางแผนที่จะทุจริตการเลือกตั้ง" ตามรายงานของกลุ่ม สิทธิมนุษย ชน Freedom House

ในประเทศสโลวาเกีย การบันทึกเสียงปลอมของผู้สมัครฝ่ายค้าน Michal Šimečka ซึ่งดูเหมือนจะวางแผนทุจริตการเลือกตั้ง กลายเป็นกระแสไวรัลเพียงไม่กี่วันก่อนการเลือกตั้งประธานาธิบดีของประเทศในเดือนกันยายน

Robert Weissman ประธานกลุ่ม Public Citizen ซึ่งเป็นกลุ่มสนับสนุนผู้บริโภคที่ไม่แสวงหากำไร กล่าวว่า “Deepfake ในรัฐนิวแฮมป์เชียร์เป็นตัวเตือนให้ทราบว่า Deepfake สามารถสร้างความสับสนและหลอกลวงได้หลายวิธี” “ช่วงเวลาแห่งการปลอมแปลงทางการเมืองได้มาถึงแล้ว ผู้กำหนดนโยบายต้องดำเนินการอย่างรวดเร็วเพื่อกำหนดมาตรการป้องกัน มิฉะนั้น เราจะเผชิญกับความโกลาหลในการเลือกตั้ง”

มาย อันห์ (ตามรายงานของ FT)

แหล่งที่มา