Deepfake porn ปัญหาของการแข่งขัน AI

Deepfakes คือ วิดีโอ และรูปภาพที่สร้างหรือดัดแปลงด้วยระบบดิจิทัลโดยใช้ปัญญาประดิษฐ์ (AI) หรือการเรียนรู้ของเครื่อง (ML) สื่อลามกอนาจารที่สร้างขึ้นโดยใช้เทคโนโลยีนี้เริ่มแพร่หลายบนอินเทอร์เน็ตเมื่อไม่กี่ปีที่ผ่านมา เมื่อผู้ใช้ Reddit รายหนึ่งแชร์คลิปโป๊ปลอมที่มีใบหน้าของคนดัง

ภาพ: GI

ใครๆ ก็สามารถตกเป็นเหยื่อได้

นับแต่นั้นมา ผู้สร้างวิดีโอ Deepfake ก็ยังคงโพสต์วิดีโอและรูปภาพลักษณะเดียวกันนี้อย่างต่อเนื่อง โดยมุ่งเป้าไปที่อินฟลูเอนเซอร์ นักข่าว และบุคคลอื่นๆ ที่มีโปรไฟล์สาธารณะ วิดีโอลักษณะนี้มีอยู่หลายพันวิดีโอบนเว็บไซต์มากมาย

เนื่องจากเทคโนโลยี AI เข้าถึงได้ง่ายขึ้น ทำให้ผู้ใช้สามารถเปลี่ยนใครก็ได้ให้กลายเป็น "ดาราหนังโป๊" โดยไม่ต้องได้รับความยินยอม หรือที่อันตรายกว่านั้นคือใช้เทคโนโลยีนี้เพื่อใส่ร้ายหรือแบล็กเมล์ผู้อื่น

ผู้เชี่ยวชาญกล่าวว่า ปัญหานี้อาจเลวร้ายลงด้วยการพัฒนาเครื่องมือ AI เชิงสร้างสรรค์ที่ได้รับการฝึกฝนจากรูปภาพนับพันล้านภาพจากอินเทอร์เน็ต และสร้างเนื้อหาใหม่โดยใช้ข้อมูลที่มีอยู่

“ความจริงก็คือ เทคโนโลยีจะยังคงแพร่หลายต่อไป พัฒนาต่อไป และจะเข้าถึงได้ง่ายขึ้น” อดัม ดอดจ์ ผู้ก่อตั้ง EndTAB กลุ่มฝึกอบรมเกี่ยวกับการละเมิดเทคโนโลยี กล่าว “และตราบใดที่เทคโนโลยียังคงดำเนินต่อไป ผู้คนก็จะ… ยังคงใช้เทคโนโลยีนั้นเพื่อทำร้ายผู้อื่นต่อไป โดยเฉพาะอย่างยิ่งผ่านความรุนแรงทางเพศออนไลน์ สื่อลามกอนาจารแบบดีปเฟก และภาพเปลือยปลอม”

โนเอล มาร์ติน จากเมืองเพิร์ธ ประเทศออสเตรเลีย ได้ประสบกับความจริงข้อนี้ หญิงสาววัย 28 ปีผู้นี้ค้นพบภาพลามกอนาจารแบบดีพเฟกของตัวเองเมื่อ 10 ปีก่อน ด้วยความอยากรู้อยากเห็น เธอจึงค้นหาภาพลามกอนาจารของตัวเองในกูเกิล จนกระทั่งทุกวันนี้ มาร์ตินยังคงยืนยันว่าเธอยังคงไม่รู้เลยว่าใครเป็นคนสร้างภาพหรือวิดีโอลามกอนาจารปลอมเหล่านี้ เธอสงสัยว่าอาจมีคนนำภาพลามกอนาจารของเธอไปสร้างวิดีโอลามกอนาจาร

มาร์ตินพยายามติดต่อเว็บไซต์ต่างๆ เพื่อขอให้ลบวิดีโอ แต่ความพยายามของเธอไร้ผล บางรายไม่ตอบกลับ บางรายก็ลบวิดีโอออกแล้วรีบโพสต์ใหม่ทันที “คุณไม่มีทางชนะหรอก” คุณมาร์ตินกล่าว “มันจะอยู่ในอินเทอร์เน็ตตลอดไป และมันจะทำลายชีวิตคุณ”

ความพยายามของบริษัทเทคโนโลยีในการแก้ไขปัญหา

โมเดล AI บางตัวบอกว่าพวกเขาได้จำกัดการเข้าถึงภาพลามกอนาจาร

OpenAI ระบุว่าได้ลบเนื้อหาลามกอนาจารออกจากข้อมูลที่ใช้ฝึกโปรแกรมสร้างภาพ DALL-E ซึ่งน่าจะช่วยลดโอกาสที่เนื้อหาจะถูกนำไปใช้ในทางที่ผิด นอกจากนี้ บริษัทยังกรองคำขอและบล็อกผู้ใช้ไม่ให้สร้างภาพ AI ของคนดังและ นักการเมือง ชื่อดัง อีกโมเดลหนึ่งคือ Midjourney ก็บล็อกการใช้คีย์เวิร์ดบางคำและสนับสนุนให้ผู้ใช้แจ้งภาพที่สร้างปัญหาให้ผู้ดูแลทราบ

ในขณะเดียวกัน Stability AI ก็ได้อัปเดตเพื่อป้องกันไม่ให้ผู้ใช้สร้างภาพเปลือยที่ไม่เหมาะสม การเปลี่ยนแปลงนี้เกิดขึ้นหลังจากมีรายงานว่าผู้ใช้บางรายใช้เทคโนโลยีนี้เพื่อสร้างภาพเปลือยที่ได้รับแรงบันดาลใจจากคนดัง

โมเตซ บิชารา โฆษกของ Stability AI กล่าวว่าฟิลเตอร์นี้ใช้การผสมผสานระหว่างคีย์เวิร์ดและเทคนิคอื่นๆ เช่น การจดจำภาพ เพื่อตรวจจับภาพเปลือย แต่ผู้ใช้ สามารถปรับแต่ง ซอฟต์แวร์และสร้างสรรค์สิ่งที่ต้องการได้ เนื่องจากบริษัทได้เผยแพร่โค้ดโอเพนซอร์สของแอปแล้ว

บริษัทโซเชียลมีเดียบางแห่งยังได้กำหนดกฎเกณฑ์ที่เข้มงวดยิ่งขึ้นเพื่อปกป้องแพลตฟอร์มของตนจากเนื้อหาที่เป็นอันตราย

เมื่อเดือนที่แล้ว TikTok กล่าวว่าเนื้อหาที่เป็น Deepfake หรือถูกปรับแต่งทั้งหมดจะต้องมีป้ายกำกับเพื่อระบุว่าเป็นของปลอมหรือถูกเปลี่ยนแปลงในทางใดทางหนึ่ง

แพลตฟอร์มเกม Twitch ยังได้อัปเดตนโยบายเกี่ยวกับภาพ deepfake เมื่อไม่นานมานี้ หลังจากสตรีมเมอร์ชื่อดังที่ชื่อ Atrioc ถูกจับได้ว่าเปิดเว็บไซต์ลามกอนาจาร deepfake บนเบราว์เซอร์ของเขาในระหว่างการถ่ายทอดสดเมื่อปลายเดือนมกราคม

Apple และ Google กล่าวว่าพวกเขาเพิ่งลบแอปหนึ่งออกจากร้านแอปของตนเนื่องจากมีการฉายวิดีโอ deepfake ที่มีเนื้อหาส่อไปในทางเพศเพื่อทำการตลาดผลิตภัณฑ์ของตน

จากนักร้องฝรั่งสู่ไอดอลเคป๊อป

การวิจัยเกี่ยวกับสื่อลามกอนาจารแบบ Deepfake นั้นหาได้ยาก แต่รายงานในปี 2019 ของบริษัท AI DeepTrace Labs พบว่ามีการนำสื่อลามกอนาจารดังกล่าวมาใช้กับผู้หญิงเกือบทั้งหมด โดยนักแสดงหญิงชาวตะวันตกเป็นเป้าหมายมากที่สุด รองลงมาคือศิลปินเคป๊อป

Dani Lever โฆษกของ Meta กล่าวในแถลงการณ์ว่านโยบายของบริษัทจำกัดเนื้อหาสำหรับผู้ใหญ่ทั้งที่สร้างโดย AI และไม่ใช่ AI และยังจำกัดไม่ให้เพจของแอปที่สร้าง deepfake โฆษณาบนแพลตฟอร์มของบริษัทอีกด้วย

ในเดือนกุมภาพันธ์ Meta รวมถึงเว็บไซต์สำหรับผู้ใหญ่อย่าง Only**** และ Porn*** ได้เริ่มเข้าร่วมเครื่องมือออนไลน์ชื่อ Take It Down ซึ่งอนุญาตให้วัยรุ่นรายงานภาพและวิดีโอที่สื่อถึงเรื่องเพศของตนเองจากอินเทอร์เน็ต เว็บไซต์นี้รองรับทั้งวิดีโอที่ถ่ายทำอย่างลับๆ และวิดีโอที่สร้างโดย AI

ฮวง ตัน (ตามรายงานของเอพี)

แหล่งที่มา: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html