Deepfake Porn ปัญหาของการแข่งขัน AI

Deepfakes คือ วิดีโอ และรูปภาพที่ถูกสร้างหรือแก้ไขโดยใช้ปัญญาประดิษฐ์ (AI) หรือการเรียนรู้ของเครื่องจักร (ML) สื่อลามกอนาจารที่ผลิตโดยเทคโนโลยีเริ่มแพร่หลายบนอินเทอร์เน็ตเป็นครั้งแรกเมื่อไม่กี่ปีที่ผ่านมาเมื่อผู้ใช้ Reddit แชร์คลิปสื่อลามกอนาจารปลอมที่มีภาพใบหน้าของคนดัง

ภาพ : GI

ใครๆ ก็สามารถตกเป็นเหยื่อได้

นับตั้งแต่นั้นมา ผู้สร้าง Deepfake ก็ยังคงโพสต์วิดีโอและรูปภาพคล้ายๆ กันโดยกำหนดเป้าหมายไปที่ผู้มีอิทธิพลบนโลกออนไลน์ นักข่าว และบุคคลอื่น ๆ ที่มีโปรไฟล์สาธารณะ มีวิดีโอประเภทนี้หลายพันรายการอยู่ในเว็บไซต์หลายแห่ง

เนื่องจากเทคโนโลยี AI เข้าถึงได้ง่ายขึ้น ทำให้ผู้ใช้สามารถเปลี่ยนใครก็ได้ให้กลายเป็น "ดาราหนังโป๊" ได้โดยไม่ต้องได้รับความยินยอม หรือที่อันตรายกว่านั้นคือใช้เทคโนโลยีนี้เพื่อใส่ร้ายหรือแบล็กเมล์ผู้อื่น

ผู้เชี่ยวชาญกล่าวว่า ปัญหานี้อาจเลวร้ายลงได้ด้วยการพัฒนาเครื่องมือ AI เชิงสร้างสรรค์ที่ได้รับการฝึกฝนด้วยรูปภาพนับพันล้านภาพจากอินเทอร์เน็ต และสร้างเนื้อหาใหม่โดยใช้ข้อมูลที่มีอยู่

“ความเป็นจริงก็คือเทคโนโลยีจะแพร่กระจายอย่างรวดเร็วและวิวัฒนาการอย่างต่อเนื่อง นอกจากนี้ยังจะเข้าถึงได้ง่ายขึ้นและใช้งานง่ายขึ้น” Adam Dodge ผู้ก่อตั้ง EndTAB กลุ่มที่ให้การฝึกอบรมเกี่ยวกับการละเมิดเทคโนโลยี กล่าว “และตราบใดที่สิ่งนั้นเกิดขึ้น ผู้คนก็จะหลีกเลี่ยงไม่ได้ที่จะใช้เทคโนโลยีในทางที่ผิดเพื่อทำร้ายผู้อื่น โดยส่วนใหญ่แล้วจะใช้ความรุนแรงทางเพศออนไลน์ สื่อลามกอนาจารแบบดีปเฟก และภาพเปลือยปลอม”

Noelle Martin จากเมืองเพิร์ธ ประเทศออสเตรเลีย ได้สัมผัสกับความเป็นจริงดังกล่าวมาแล้ว หญิงวัย 28 ปีคนนี้พบรูปภาพลามกอนาจารของตัวเองเมื่อ 10 ปีก่อน โดยในวันหนึ่งเธอได้ลองค้นหารูปภาพของตัวเองใน Google ด้วยความอยากรู้ จนถึงวันนี้ มาร์ตินบอกว่าเธอไม่มีทางรู้เลยว่าใครเป็นผู้สร้างภาพหรือวิดีโอลามกอนาจารปลอมเหล่านี้ เธอสงสัยว่ามีคนใช้รูปภาพโซเชียลมีเดียของเธอสร้างวิดีโอลามกอนาจาร

แม้ว่ามาร์ตินจะพยายามติดต่อเว็บไซต์ดังกล่าวเพื่อลบวิดีโอเหล่านี้ แต่ความพยายามดังกล่าวก็ไร้ผล บางคนไม่ตอบสนอง ส่วนอื่นๆ ถูกลบออกไปแล้วแต่ก็โพสต์ใหม่อีกครั้งอย่างรวดเร็ว “คุณไม่สามารถชนะได้” นางสาวมาร์ตินกล่าว “สิ่งนั้นจะอยู่บนอินเทอร์เน็ตตลอดไปและอาจทำลายชีวิตคุณได้”

ความพยายามของบริษัทเทคโนโลยีในการแก้ไขปัญหานี้

โมเดล AI บางตัวบอกว่าพวกเขาจำกัดการเข้าถึงภาพลามกอนาจาร

OpenAI กล่าวว่าได้ลบเนื้อหาลามกอนาจารออกจากข้อมูลที่ใช้ฝึกเครื่องสร้างภาพ DALL-E ซึ่งน่าจะจำกัดศักยภาพในการถูกนำไปใช้ในทางที่ผิดได้ นอกจากนี้ บริษัทยังกรองคำขอและระบุว่าได้บล็อกผู้ใช้จากการสร้างภาพ AI ของคนดังและ นักการเมือง ระดับสูง Midjourney ซึ่งเป็นอีกโมเดลหนึ่ง ยังบล็อกการใช้คำสำคัญบางคำและสนับสนุนให้ผู้ใช้งานแจ้งรูปภาพที่มีปัญหาให้ผู้ดูแลระบบทราบอีกด้วย

ในขณะเดียวกัน Stability AI ยังเปิดตัวอัพเดตที่ป้องกันไม่ให้ผู้ใช้สร้างภาพที่ละเอียดอ่อนอีกด้วย การเปลี่ยนแปลงดังกล่าวเกิดขึ้นหลังจากมีรายงานว่าผู้ใช้บางรายใช้เทคโนโลยีดังกล่าวเพื่อสร้างภาพเปลือยที่ได้รับแรงบันดาลใจจากคนดัง

Motez Bishara โฆษกของ Stability AI กล่าวว่าฟิลเตอร์นี้ใช้การผสมผสานคำสำคัญและเทคนิคอื่นๆ เช่น การจดจำภาพ เพื่อตรวจจับภาพเปลือย แต่ผู้ใช้ สามารถจัดการ ซอฟต์แวร์และสร้างสิ่งที่พวกเขาต้องการได้เนื่องจากบริษัทได้เปิดตัวโค้ดโอเพ่นซอร์สสำหรับแอปดังกล่าวแล้ว

บริษัทโซเชียลมีเดียบางแห่งยังได้กำหนดกฎเกณฑ์ที่เข้มงวดยิ่งขึ้น เพื่อปกป้องแพลตฟอร์มของตนจากเนื้อหาที่เป็นอันตรายให้ดียิ่งขึ้น

เมื่อเดือนที่แล้ว TikTok กล่าวว่าเนื้อหา Deepfake หรือเนื้อหาที่ถูกปรับแต่งทั้งหมดจะต้องมีป้ายกำกับเพื่อระบุว่าเป็นของปลอมหรือถูกดัดแปลงในทางใดทางหนึ่ง

แพลตฟอร์มเกม Twitch ยังได้อัปเดตนโยบายเกี่ยวกับ deepfake เมื่อเร็ว ๆ นี้ หลังจากที่สตรีมเมอร์ชื่อดังชื่อ Atrioc ถูกจับได้ว่าเปิดเว็บไซต์ลามก deepfake ในเบราว์เซอร์ของเขาในระหว่างการถ่ายทอดสดในช่วงปลายเดือนมกราคม

Apple และ Google กล่าวว่าพวกเขาเพิ่งลบแอปหนึ่งออกจากร้านแอปของตนเนื่องจากมีการฉายวิดีโอ Deepfake ที่มีเนื้อหาทางเพศเพื่อการตลาดผลิตภัณฑ์ของพวกเขา

จากนักร้องฝรั่งสู่ไอดอลเคป็อป

การวิจัยเกี่ยวกับสื่อลามกอนาจารแบบ Deepfake นั้นไม่ใช่เรื่องธรรมดา แต่รายงานที่เผยแพร่ในปี 2019 โดยบริษัท AI อย่าง DeepTrace Labs พบว่าสื่อลามกอนาจารดังกล่าวแทบจะถูกนำมาใช้เป็นอาวุธกับผู้หญิงทั้งหมด กลุ่มเป้าหมายที่ให้ความสนใจมากที่สุดคือดาราสาวชาวตะวันตก รองลงมาคือนักร้องเคป็อป

Dani Lever โฆษกของบริษัท Meta กล่าวในแถลงการณ์ว่านโยบายของบริษัทจำกัดเนื้อหาสำหรับผู้ใหญ่ทั้งที่สร้างโดย AI และไม่ได้สร้างโดย AI และยังจำกัดไม่ให้เพจแอปที่สร้าง deepfake โฆษณาบนแพลตฟอร์มของบริษัทอีกด้วย

ในเดือนกุมภาพันธ์ Meta เช่นเดียวกับไซต์สำหรับผู้ใหญ่ เช่น Only**** และ Porn*** เริ่มมีส่วนร่วมในเครื่องมือออนไลน์ที่เรียกว่า Take It Down ซึ่งช่วยให้วัยรุ่นสามารถรายงานภาพและวิดีโอที่มีเนื้อหาทางเพศอย่างชัดเจนของตนเองจากอินเทอร์เน็ตได้ ไซต์นี้รองรับทั้งวิดีโอที่ถ่ายทำแบบลับๆ และวิดีโอที่สร้างโดย AI

ฮวง ตัน (ตามรายงานของเอพี)

แหล่งที่มา: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html