ประสบการณ์สุดสยองกับเสียงแบล็กเมล์จาก AI

เจนนิเฟอร์ เดสเตฟาโนตกตะลึงเมื่อได้ยินเสียงร้องขอความช่วยเหลือซึ่งฟังดูเหมือนกับเสียงของบริแอนนา ลูกสาวคนโตวัย 15 ปีของเธอทุกประการ หลังจากที่เธอตรวจสอบแล้ว พบว่าเป็นเพียงการหลอกลวงด้วยความช่วยเหลือของ AI

บ่ายวันที่ 20 มกราคม โทรศัพท์ของเจนนิเฟอร์ เดอสเตฟาโนดังขึ้นทันทีที่เธอก้าวออกจากรถหน้าสตูดิโอเต้นรำที่ออเบรย์ ลูกสาวของเธอกำลังซ้อมเต้นอยู่ ไม่ทราบชื่อผู้โทร และเดอสเตฟาโนตั้งใจจะไม่รับสาย

แต่บริแอนนา ลูกสาวคนโตวัย 15 ปีของเธอกำลังฝึกซ้อมเพื่อลงแข่งสกี เดอสเตฟาโนกลัวว่าอาจเป็นเหตุฉุกเฉิน

"ฮัลโหล" เธอรับสายผ่านลำโพงโทรศัพท์ ขณะที่ล็อกรถ คว้ากระเป๋าเงินและกระเป๋าแล็ปท็อป แล้วมุ่งหน้าเข้ายิม ทันใดนั้น เดสเตฟาโนก็ได้ยินเสียงกรีดร้องและเสียงสะอื้นไห้

เจนนิเฟอร์ เดสเตฟาโน และลูกสาวสองคนของเธอ ภาพ: NVCC

“แม่คะ หนูมีปัญหา!” เสียงเด็กผู้หญิงคนหนึ่งตะโกนขึ้นมา “แม่ทำอะไรลงไป เกิดอะไรขึ้น” คุณแม่ถามปลายสายทันที

ช่วงเวลาแห่งความตื่นตระหนก

เดสเตฟาโนบอกกับ CNN ว่าเสียงของเธอฟังดูเหมือนเสียงของบริแอนนาเป๊ะเลย ทั้งสำเนียงและทุกอย่าง "ผมคิดว่าเธอลื่นตกจากภูเขา ซึ่งเป็นเรื่องปกติเวลาเล่นสกี ผมเลยเริ่มตกใจ" เดสเตฟาโนกล่าว

เสียงกรีดร้องยังคงดังต่อเนื่อง และเสียงผู้ชายทุ้มต่ำเริ่มสั่ง “ฟังนะ ลูกสาวของคุณอยู่ในมือผมแล้ว ถ้าคุณแจ้งตำรวจหรือใครก็ตาม ผมจะเอายาฉีดให้เธอเต็มๆ ผมจะพาเธอไปเม็กซิโก และคุณจะไม่ได้เจอลูกสาวของคุณอีกเลย”

เดสเตฟาโนเป็นอัมพาตทันที จากนั้นเธอก็วิ่งเข้าไปในโรงยิม ตัวสั่นและกรีดร้องขอความช่วยเหลือ เธอรู้สึกเหมือนกำลังจมน้ำอยู่อย่างกะทันหัน

เดสเตฟาโนต้องเผชิญกับช่วงเวลาอันน่าสะพรึงกลัว เมื่อมีเสียงที่ฟังดูคล้ายกับเสียงของบริอันนา ดังขึ้นมาขอความช่วยเหลือทางโทรศัพท์ ภาพโดย เจนนิเฟอร์ เดสเตฟาโน

เหตุการณ์วุ่นวายต่างๆ ตามมา เหล่าคนร้ายรีบเรียกร้องค่าไถ่ 1 ล้านดอลลาร์ และเดสเตฟาโนตัดสินใจโทรแจ้งตำรวจ หลังจากพยายามติดต่อบริแอนนาหลายครั้ง "การลักพาตัว" ก็ถูกเปิดโปง

ปรากฏว่าทั้งหมดเป็นเพียงกลโกง บริแอนนาผู้สับสนโทรหาแม่เพื่อบอกว่าเธอไม่รู้ว่าเกิดอะไรขึ้น ทั้งๆ ที่ทุกอย่างก็เรียบร้อยดี

แต่สำหรับเดสเตฟาโน เธอจะไม่มีวันลืมการสนทนาทางโทรศัพท์อันน่าสะพรึงกลัวนานสี่นาทีนั้น ด้วยน้ำเสียงแปลกๆ ของเขา

เดสเตฟาโนเชื่อว่าเธอตกเป็นเหยื่อของการหลอกลวงลักพาตัวเสมือนจริงทางโทรศัพท์โดยใช้เทคโนโลยีดีปเฟก ผู้ลักพาตัวใช้เทคโนโลยี AI นี้หลอกครอบครัวของเหยื่อด้วยเสียงที่ถูกปรับแต่งให้คล้ายกับเสียงของเหยื่อและเรียกร้องค่าไถ่

ด้านมืดของ AI

ตามที่ Siobhan Johnson โฆษกของสำนักงานสอบสวนกลาง (FBI) เปิดเผย โดยเฉลี่ยแล้ว ครอบครัวในสหรัฐฯ สูญเสียเงินประมาณ 11,000 ดอลลาร์สหรัฐฯ ต่อการโทรหลอกลวงแต่ละครั้ง

โดยเฉลี่ยแล้ว ครอบครัวในสหรัฐอเมริกาสูญเสียเงินประมาณ 11,000 ดอลลาร์ ต่อการโทรหลอกลวงหนึ่งครั้ง ภาพ: Matthew Fleming

ในปี 2022 ข้อมูลจากสำนักงานคณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) แสดงให้เห็นว่าชาวอเมริกันสูญเสียเงินรวม 2.6 พันล้านดอลลาร์ เนื่องจากการโทรหลอกลวง

ในการบันทึกการโทรของ DeStefano ที่ส่งให้ CNN โดยกรมตำรวจ Scottsdale คุณแม่คนหนึ่งที่สตูดิโอเต้นรำพยายามอธิบายให้เจ้าหน้าที่รับสายฟังว่าเกิดอะไรขึ้น

“แม่คนหนึ่งเพิ่งเดินเข้ามา แล้วก็ได้รับโทรศัพท์จากใครบางคน เป็นลูกสาวของเธอเอง มีคนลักพาตัวบอกว่าเขาต้องการเงินหนึ่งล้านดอลลาร์ เขาไม่ยอมให้เธอคุยกับลูกสาว” ผู้โทรกล่าว

ในพื้นหลัง ได้ยินเสียงเดสเตฟาโนตะโกนว่า “ผมอยากคุยกับลูกสาว” เจ้าหน้าที่รับสายสรุปทันทีว่าสายดังกล่าวเป็นเรื่องหลอกลวง

อันที่จริงแล้ว การโทรปลอมเป็นเรื่องปกติที่เกิดขึ้นทั่วสหรัฐอเมริกา บางครั้งผู้โทรติดต่อผู้สูงอายุ โดยอ้างว่าหลานของพวกเขาประสบอุบัติเหตุและต้องการเงินเพื่อการผ่าตัด

ลักษณะทั่วไปของวิธีนี้คือผู้ลักพาตัวปลอมมักใช้การบันทึกเสียงฝูงชนที่กำลังกรีดร้อง

อย่างไรก็ตาม เจ้าหน้าที่รัฐบาลกลางของสหรัฐฯ ออกมาเตือนว่าการหลอกลวงเหล่านี้มีความซับซ้อนมากขึ้น โดยมีเทคโนโลยี Deepfake ปลอมแปลงเสียงของเหยื่อเพื่อให้ได้รับความไว้วางใจจากผู้รู้จัก และหลอกลวงเงินจากพวกเขา

การหลอกลวงทางอาญากำลังพัฒนาอย่างซับซ้อนมากขึ้นด้วยเทคโนโลยีดีพเฟก ซึ่งเลียนแบบเสียงของเหยื่อเพื่อให้ได้รับความไว้วางใจจากคนรู้จักและฉ้อโกงเงิน ภาพ: Protocol

การพัฒนาโปรแกรม AI ราคาถูกและเข้าถึงได้ทำให้ผู้หลอกลวงสามารถโคลนเสียงและสร้างบทสนทนาที่ฟังดูเหมือนกับต้นฉบับได้อย่างอิสระ

“ภัยคุกคามนี้ไม่ใช่แค่สมมติฐาน เรากำลังเห็นมิจฉาชีพนำเครื่องมือเหล่านี้มาใช้เป็นอาวุธ พวกเขาสามารถสร้างเสียงเลียนแบบที่มีคุณภาพได้ค่อนข้างดีโดยใช้เวลาน้อยกว่าหนึ่งนาที สำหรับบางคน แม้เพียงไม่กี่วินาทีก็เพียงพอแล้ว” ฮานี ฟาริด ศาสตราจารย์ด้าน วิทยาการ คอมพิวเตอร์ มหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ กล่าว

Farid กล่าวว่าด้วยความช่วยเหลือของซอฟต์แวร์ AI การปลอมเสียงสามารถทำได้ด้วยค่าใช้จ่ายเพียงเดือนละ 5 ดอลลาร์ และใครๆ ก็สามารถเข้าถึงได้ง่าย

นอกจากนี้ FTC ยังได้ออกคำเตือนในเดือนมีนาคมว่าผู้หลอกลวงสามารถนำไฟล์เสียงจาก วิดีโอ โซเชียลมีเดียของเหยื่อได้

การใช้ปัญญาประดิษฐ์เพื่อแทรกใบหน้าลงในวิดีโอหรือเสียงปลอม ซึ่งรู้จักกันทั่วไปในชื่อ Deepfake กำลังแพร่หลายและเป็นอันตรายมากขึ้นเรื่อยๆ นี่คืออันตรายที่แท้จริงบนอินเทอร์เน็ต

นอกจากวิดีโอที่มีความละเอียดอ่อนแล้ว ดีปเฟกยังอาจก่อให้เกิดอันตรายร้ายแรงได้หากนำไปใช้เพื่อวัตถุประสงค์ ทางการเมือง วิดีโอที่อดีตประธานาธิบดีบารัค โอบามา ถูกแปลงโฉม ซึ่งกลายเป็นไวรัลในปี 2018 แสดงให้เห็นว่าบุคคลสำคัญทางการเมืองก็อาจตกเป็นเหยื่อได้เช่นกัน

ในปี 2019 ถึงคราวของแนนซี เพโลซี ประธานสภาผู้แทนราษฎรสหรัฐฯ ที่ตกเป็นเหยื่อ วิดีโอที่ตัดต่อเผยให้เห็นเพโลซีกำลังพูดขณะมึนเมา โดยที่คำพูดของเธอไม่ชัดเจน

Deepfakes ไม่เพียงแต่ใช้เพื่อรวมวิดีโอลามกอนาจารเท่านั้น แต่ยังทำให้เกิดความกังวลเกี่ยวกับข่าวปลอมก่อนช่วงเวลาสำคัญๆ เช่น การเลือกตั้งประธานาธิบดีสหรัฐฯ ในช่วงปลายปี 2020 อีกด้วย ภาพ: Cnet

ในช่วงปลายปี 2019 รัฐแคลิฟอร์เนียของสหรัฐอเมริกาได้ผ่านกฎหมายที่ทำให้การสร้างหรือแชร์วิดีโอดีปเฟกเป็นสิ่งผิดกฎหมาย กฎหมายระบุอย่างชัดเจนว่าวิดีโอที่ถูกตัดต่อซึ่งมีรูปภาพ วิดีโอ หรือเสียงของนักการเมืองภายใน 60 วันหลังการเลือกตั้งถือเป็นสิ่งผิดกฎหมาย

ในปี 2019 นักวิจัยสองคนจากสหประชาชาติ (UN) คือ Joseph Bullock และ Miguel Luengo-Oroz กล่าวว่าโมเดล AI ของพวกเขา ซึ่งได้รับการฝึกฝนจากข้อความใน Wikipedia และคำปราศรัยของสมัชชาใหญ่แห่งสหประชาชาติมากกว่า 7,000 คำปราศรัย สามารถปลอมแปลงคำปราศรัยของผู้นำโลกได้อย่างง่ายดาย

ทีมงานกล่าวว่าพวกเขาเพียงแค่ป้อนคำเพียงไม่กี่คำให้ AI เพื่อสร้างข้อความที่มี "คุณภาพสูง" สอดคล้องกัน

ตัวอย่างเช่น เมื่อนักวิจัยพาดหัวข่าวว่า “เลขาธิการประณามการโจมตีของผู้ก่อการร้ายที่ก่อให้เกิดการเสียชีวิตในกรุงโมกาดิชูอย่างรุนแรง” AI ก็สามารถสร้างคำพูดที่แสดงการสนับสนุนการตัดสินใจของสหประชาชาติได้

ลิงค์ที่มา

การแสดงความคิดเห็น (0)

ความสนใจสูงสุด

ใหม่ล่าสุด

No data