Deepfakes คือ วิดีโอ และรูปภาพที่สร้างหรือดัดแปลงด้วยระบบดิจิทัลโดยใช้ปัญญาประดิษฐ์ (AI) หรือการเรียนรู้ของเครื่อง (ML) สื่อลามกอนาจารที่สร้างขึ้นโดยใช้เทคโนโลยีนี้เริ่มแพร่หลายบนอินเทอร์เน็ตเมื่อไม่กี่ปีที่ผ่านมา เมื่อผู้ใช้ Reddit รายหนึ่งแชร์คลิปโป๊ปลอมที่มีใบหน้าของคนดัง
ภาพ: GI
ใครๆ ก็สามารถตกเป็นเหยื่อได้
นับแต่นั้นมา ผู้สร้างวิดีโอ Deepfake ก็ยังคงโพสต์วิดีโอและรูปภาพลักษณะเดียวกันนี้อย่างต่อเนื่อง โดยมุ่งเป้าไปที่อินฟลูเอนเซอร์ นักข่าว และบุคคลอื่นๆ ที่มีโปรไฟล์สาธารณะ วิดีโอลักษณะนี้มีอยู่หลายพันวิดีโอบนเว็บไซต์มากมาย
เนื่องจากเทคโนโลยี AI เข้าถึงได้ง่ายขึ้น ทำให้ผู้ใช้สามารถเปลี่ยนใครก็ได้ให้กลายเป็น "ดาราหนังโป๊" โดยไม่ต้องได้รับความยินยอม หรือที่อันตรายกว่านั้นคือใช้เทคโนโลยีนี้เพื่อใส่ร้ายหรือแบล็กเมล์ผู้อื่น
ผู้เชี่ยวชาญกล่าวว่า ปัญหานี้อาจเลวร้ายลงด้วยการพัฒนาเครื่องมือ AI เชิงสร้างสรรค์ที่ได้รับการฝึกฝนจากรูปภาพนับพันล้านภาพจากอินเทอร์เน็ต และสร้างเนื้อหาใหม่โดยใช้ข้อมูลที่มีอยู่
“ความจริงก็คือ เทคโนโลยีจะยังคงแพร่หลายต่อไป พัฒนาต่อไป และจะเข้าถึงได้ง่ายขึ้นและใช้งานง่ายขึ้น” อดัม ดอดจ์ ผู้ก่อตั้ง EndTAB กลุ่มฝึกอบรมเกี่ยวกับการละเมิดเทคโนโลยี กล่าว “และตราบใดที่สิ่งนี้ยังเกิดขึ้น ผู้คนก็จะ… ยังคงใช้เทคโนโลยีนั้นเพื่อทำร้ายผู้อื่นต่อไปอย่างหลีกเลี่ยงไม่ได้ โดยเฉพาะอย่างยิ่งผ่านความรุนแรงทางเพศออนไลน์ สื่อลามกอนาจารแบบดีปเฟก และภาพเปลือยปลอม”
โนเอล มาร์ติน จากเมืองเพิร์ธ ประเทศออสเตรเลีย ได้ประสบกับความจริงข้อนี้มาแล้ว หญิงสาววัย 28 ปีผู้นี้ค้นพบภาพลามกอนาจารของตัวเองเมื่อ 10 ปีก่อน ตอนที่เธอค้นหาภาพลามกอนาจารของตัวเองในกูเกิลด้วยความอยากรู้ จนกระทั่งทุกวันนี้ มาร์ตินยังคงยืนยันว่าเธอยังคงไม่รู้เลยว่าใครเป็นคนสร้างภาพหรือวิดีโอลามกอนาจารปลอมเหล่านี้ เธอสงสัยว่าอาจมีคนนำภาพของเธอไปสร้างวิดีโอลามกอนาจาร
มาร์ตินพยายามติดต่อเว็บไซต์ต่างๆ เพื่อขอให้ลบวิดีโอ แต่ความพยายามของเธอไร้ผล บางรายไม่ตอบกลับ บางรายก็ลบวิดีโอออกแล้ว แต่ก็รีบโพสต์ใหม่ทันที “คุณไม่มีทางชนะหรอก” มาร์ตินกล่าว “มันอยู่บนอินเทอร์เน็ตตลอดไป และมันสามารถทำลายชีวิตคุณได้”
ความพยายามของบริษัทเทคโนโลยีในการแก้ไขปัญหานี้
โมเดล AI บางตัวบอกว่าพวกเขาได้จำกัดการเข้าถึงภาพลามกอนาจาร
OpenAI ระบุว่าได้ลบเนื้อหาลามกอนาจารออกจากข้อมูลที่ใช้ฝึกอบรมเครื่องสร้างภาพ DALL-E ซึ่งน่าจะช่วยลดโอกาสการนำไปใช้ในทางที่ผิด นอกจากนี้ บริษัทยังกรองคำขอและบล็อกผู้ใช้ไม่ให้สร้างภาพ AI ของคนดังและ นักการเมือง ชื่อดัง ส่วน Midjourney ซึ่งเป็นอีกโมเดลหนึ่ง ก็บล็อกการใช้คีย์เวิร์ดบางคำและสนับสนุนให้ผู้ใช้แจ้งภาพที่สร้างปัญหาให้ผู้ดูแลทราบ
ในขณะเดียวกัน Stability AI ก็ได้ปล่อยอัปเดตที่ป้องกันไม่ให้ผู้ใช้สร้างภาพเปลือยที่ไม่เหมาะสม การเปลี่ยนแปลงนี้เกิดขึ้นหลังจากมีรายงานว่าผู้ใช้บางรายใช้เทคโนโลยีนี้เพื่อสร้างภาพเปลือยที่ได้รับแรงบันดาลใจจากคนดัง
โมเตซ บิชารา โฆษกของ Stability AI กล่าวว่าฟิลเตอร์นี้ใช้การผสมผสานระหว่างคีย์เวิร์ดและเทคนิคอื่นๆ เช่น การจดจำภาพ เพื่อตรวจจับภาพเปลือย แต่ผู้ใช้ สามารถปรับแต่ง ซอฟต์แวร์และสร้างอะไรก็ได้ตามต้องการ เพราะบริษัทได้เผยแพร่โค้ดโอเพนซอร์สสำหรับแอปนี้แล้ว
บริษัทโซเชียลมีเดียบางแห่งยังได้กำหนดกฎเกณฑ์ที่เข้มงวดยิ่งขึ้นเพื่อปกป้องแพลตฟอร์มของตนจากเนื้อหาที่เป็นอันตราย
เมื่อเดือนที่แล้ว TikTok กล่าวว่าเนื้อหาที่เป็น Deepfake หรือถูกปรับแต่งทั้งหมดจะต้องมีป้ายกำกับเพื่อระบุว่าเป็นของปลอมหรือถูกเปลี่ยนแปลงในทางใดทางหนึ่ง
แพลตฟอร์มเกม Twitch ยังได้อัปเดตนโยบายเกี่ยวกับ deepfake เมื่อไม่นานมานี้ หลังจากสตรีมเมอร์ชื่อดังที่ชื่อ Atrioc ถูกจับได้ว่าเปิดเว็บไซต์ลามก deepfake ในเบราว์เซอร์ของเขาในระหว่างการถ่ายทอดสดเมื่อปลายเดือนมกราคม
Apple และ Google กล่าวว่าพวกเขาเพิ่งลบแอปหนึ่งออกจากร้านแอปของตนเนื่องจากมีการฉายวิดีโอ deepfake ที่มีเนื้อหาส่อไปในทางเพศเพื่อทำการตลาดผลิตภัณฑ์ของตน
จากนักร้องฝรั่งสู่ไอดอลเคป๊อป
การวิจัยเกี่ยวกับหนังโป๊แบบ Deepfake นั้นหาได้ยาก แต่รายงานในปี 2019 ของบริษัท AI DeepTrace Labs พบว่ามีการนำหนังโป๊ดังกล่าวมาใช้เป็นอาวุธเกือบทั้งหมดกับผู้หญิง นักแสดงหญิงชาวตะวันตกเป็นเป้าหมายหลัก รองลงมาคือนักร้องเคป๊อป
Dani Lever โฆษกของบริษัท Meta กล่าวในแถลงการณ์ว่านโยบายของบริษัทจำกัดเนื้อหาสำหรับผู้ใหญ่ทั้งที่สร้างโดย AI และไม่ได้สร้างโดย AI และยังจำกัดไม่ให้หน้าแอปที่สร้าง deepfake โฆษณาบนแพลตฟอร์มของบริษัทอีกด้วย
ในเดือนกุมภาพันธ์ Meta รวมถึงเว็บไซต์สำหรับผู้ใหญ่อย่าง Only**** และ Porn*** ได้เริ่มมีส่วนร่วมในเครื่องมือออนไลน์ชื่อ Take It Down ซึ่งช่วยให้วัยรุ่นสามารถรายงานภาพและวิดีโอที่สื่อถึงเรื่องเพศของตนเองจากอินเทอร์เน็ตได้ เว็บไซต์นี้รองรับทั้งวิดีโอจากกล้องสอดแนมและวิดีโอที่สร้างโดย AI
ฮวง ตัน (ตามรายงานของเอพี)
แหล่งที่มา
การแสดงความคิดเห็น (0)