Deepfake porn ปัญหาของการแข่งขัน AI

Deepfake คือ วิดีโอ และภาพที่สร้างหรือดัดแปลงทางดิจิทัลโดยใช้ปัญญาประดิษฐ์ (AI) หรือการเรียนรู้ของเครื่อง (ML) เนื้อหาลามกอนาจารที่สร้างขึ้นโดยใช้เทคโนโลยีนี้เริ่มแพร่หลายในอินเทอร์เน็ตเมื่อไม่กี่ปีที่ผ่านมา เมื่อผู้ใช้ Reddit รายหนึ่งแชร์คลิปลามกอนาจารปลอมที่มีใบหน้าของคนดัง

ภาพ: GI

ใครๆ ก็ตกเป็นเหยื่อได้

นับตั้งแต่นั้นมา ผู้สร้างวิดีโอปลอม (deepfake) ได้โพสต์วิดีโอและภาพในลักษณะเดียวกันอย่างต่อเนื่อง โดยมุ่งเป้าไปที่ผู้มีอิทธิพลทางออนไลน์ นักข่าว และบุคคลอื่นๆ ที่มีโปรไฟล์สาธารณะ วิดีโอประเภทนี้หลายพันรายการมีอยู่บนเว็บไซต์ต่างๆ มากมาย

ด้วยเทคโนโลยี AI ที่เข้าถึงได้ง่ายขึ้นเรื่อย ๆ ทำให้ผู้ใช้สามารถเปลี่ยนใครก็ได้ให้กลายเป็น "ดาราหนังโป๊" โดยไม่ได้รับความยินยอม หรือที่อันตรายกว่านั้นคือ ใช้เทคโนโลยีนี้ในการใส่ร้ายหรือแบล็กเมล์ผู้อื่น

ผู้เชี่ยวชาญกล่าวว่า ปัญหาอาจทวีความรุนแรงขึ้นจากการพัฒนาเครื่องมือ AI ทั่วไปที่ได้รับการฝึกฝนด้วยภาพหลายพันล้านภาพจากอินเทอร์เน็ต และสร้างเนื้อหาใหม่โดยใช้ข้อมูลที่มีอยู่แล้ว

“ความเป็นจริงก็คือ เทคโนโลยีจะยังคงแพร่หลาย พัฒนา และใช้งานง่ายขึ้นเรื่อยๆ” อดัม ดอดจ์ ผู้ก่อตั้ง EndTAB กลุ่มที่ให้การฝึกอบรมเกี่ยวกับการใช้เทคโนโลยีในทางที่ผิด กล่าว “และตราบใดที่ยังเป็นเช่นนั้น ผู้คนก็จะยังคงใช้เทคโนโลยีในทางที่ผิดเพื่อทำร้ายผู้อื่น โดยเฉพาะอย่างยิ่งผ่านความรุนแรงทางเพศออนไลน์ ภาพอนาจารปลอม และภาพเปลือยปลอม”

โนเอล มาร์ติน จากเมืองเพิร์ธ ประเทศออสเตรเลีย ประสบกับเหตุการณ์นี้ด้วยตัวเอง หญิงสาววัย 28 ปีคนนี้ค้นพบภาพลามกอนาจารปลอมของตัวเองเมื่อ 10 ปีที่แล้ว เมื่อเธอใช้ Google ค้นหารูปภาพของตัวเองด้วยความอยากรู้อยากเห็น จนถึงทุกวันนี้ มาร์ตินกล่าวว่าเธอยังไม่รู้ว่าใครเป็นผู้สร้างภาพหรือวิดีโอโป๊ปลอมเหล่านี้ เธอคาดว่ามีคนนำภาพจากโซเชียลมีเดียของเธอไปสร้างเป็นวิดีโอโป๊เหล่านั้น

แม้ว่ามาร์ตินจะพยายามติดต่อเว็บไซต์เหล่านั้นเพื่อขอให้ลบวิดีโอออก แต่ความพยายามของเธอก็ไร้ผล บางเว็บไซต์ไม่ตอบกลับ บางเว็บไซต์ลบไปแล้วก็อัปโหลดใหม่ในไม่ช้า "คุณไม่มีทางชนะได้หรอก" มาร์ตินกล่าว "มันจะอยู่บนอินเทอร์เน็ตตลอดไปและอาจทำลายชีวิตคุณได้"

ความพยายามของบริษัทเทคโนโลยีในการแก้ไขสถานการณ์

โมเดล AI บางรุ่นระบุว่าได้จำกัดการเข้าถึงภาพลามกอนาจารแล้ว

OpenAI ระบุว่าได้ลบเนื้อหาลามกอนาจารออกจากข้อมูลที่ใช้ในการฝึกฝนเครื่องมือสร้างภาพ DALL-E แล้ว ซึ่งจะช่วยลดโอกาสการนำไปใช้ในทางที่ผิด บริษัทฯ ยังกรองคำขอและกล่าวว่าได้บล็อกไม่ให้ผู้ใช้สร้างภาพ AI ของดาราและ นักการเมือง ที่มีชื่อเสียง Midjourney ซึ่งเป็นอีกโมเดลหนึ่ง ก็บล็อกการใช้คำหลักบางคำและสนับสนุนให้ผู้ใช้แจ้งภาพที่มีปัญหาแก่ผู้ดูแลระบบด้วย

ในขณะเดียวกัน Stability AI ก็ได้ออกอัปเดตเพื่อป้องกันไม่ให้ผู้ใช้สร้างภาพที่ล่อแหลม การเปลี่ยนแปลงเหล่านี้เกิดขึ้นหลังจากมีรายงานว่าผู้ใช้บางรายสร้างภาพเปลือยเลียนแบบดาราโดยใช้เทคโนโลยีนี้

โมเตซ บิชารา โฆษกของ Stability AI กล่าวว่า ตัวกรองนี้ใช้การผสมผสานระหว่างคำหลักและเทคนิคอื่นๆ เช่น การจดจำภาพ เพื่อตรวจจับภาพเปลือย แต่ผู้ใช้ สามารถปรับแต่ง ซอฟต์แวร์และสร้างอะไรก็ได้ตามต้องการ เนื่องจากบริษัทได้เปิดเผยซอร์สโค้ดของแอปพลิเคชันแบบโอเพนซอร์สแล้ว

บริษัทโซเชียลมีเดียบางแห่งได้เข้มงวดกฎระเบียบมากขึ้นเพื่อปกป้องแพลตฟอร์มของตนจากเนื้อหาที่เป็นอันตราย

เมื่อเดือนที่แล้ว TikTok กล่าวว่าเนื้อหา deepfake หรือเนื้อหาที่ถูกดัดแปลงทั้งหมดจะต้องติดป้ายกำกับเพื่อระบุว่าเป็นของปลอมหรือถูกดัดแปลงใน algún ทาง

เมื่อไม่นานมานี้ แพลตฟอร์มเกม Twitch ได้อัปเดตนโยบายเกี่ยวกับภาพ deepfake หลังจากที่พบว่าสตรีมเมอร์ชื่อดังอย่าง Atrioc เข้าถึงเว็บไซต์ภาพลามกอนาจาร deepfake ผ่านเบราว์เซอร์ของเขาในระหว่างการถ่ายทอดสดเมื่อปลายเดือนมกราคม

เมื่อเร็วๆ นี้ Apple และ Google ได้ประกาศลบแอปพลิเคชันหนึ่งออกจาก App Store ของตน เนื่องจากแอปดังกล่าวใช้คลิปวิดีโอปลอมแปลงเชิงลามกอนาจารเพื่อทำการตลาดผลิตภัณฑ์

จากนักร้องตะวันตกไปจนถึงไอดอลเคป็อป

การวิจัยเกี่ยวกับภาพปลอมแปลงลามกอนาจารยังไม่แพร่หลาย แต่รายงานปี 2019 ที่เผยแพร่โดยบริษัท AI DeepTrace Labs แสดงให้เห็นว่าภาพปลอมแปลงเหล่านี้เกือบทั้งหมดถูกนำไปใช้โจมตีผู้หญิง โดยบุคคลที่ตกเป็นเป้าหมายมากที่สุดคือนักแสดงหญิงชาวตะวันตก ตามมาด้วยนักร้องเคป็อป

ดานี เลเวอร์ โฆษกของ Meta กล่าวในแถลงการณ์ว่า นโยบายของบริษัทจำกัดทั้งเนื้อหาสำหรับผู้ใหญ่ที่สร้างโดย AI และไม่ได้สร้างโดย AI และยังจำกัดไม่ให้หน้าเพจของแอปสร้าง deepfake โฆษณาบนแพลตฟอร์มของบริษัทด้วย

ในเดือนกุมภาพันธ์ Meta ร่วมกับเว็บไซต์สำหรับผู้ใหญ่ เช่น Only**** และ Porn*** เริ่มเข้าร่วมในเครื่องมือออนไลน์ที่ชื่อว่า Take It Down ซึ่งอนุญาตให้วัยรุ่นรายงานภาพและวิดีโอโป๊ของตนเองจากอินเทอร์เน็ต เว็บไซต์นี้รองรับการประมวลผลทั้งวิดีโอที่ถ่ายโดยไม่ได้รับอนุญาตและวิดีโอที่สร้างโดย AI

ฮวาง ตัน (ตามรายงานของ AP)

แหล่งที่มา: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html