โซเชียลมีเดีย X ต้องบล็อกการค้นหาเทย์เลอร์ สวิฟต์ หลังจาก ภาพลามกอนาจารแบบ Deepfake ของนักร้องสาวกลายเป็นไวรัล เมื่อค้นหาเทย์เลอร์ สวิฟต์บนแพลตฟอร์ม X ผู้ใช้จะเห็นข้อความแสดงข้อผิดพลาดและคำขอให้โหลดหน้าเว็บใหม่ โจ เบนารอช ผู้อำนวยการฝ่ายปฏิบัติการธุรกิจของ X กล่าวว่านี่เป็นการดำเนินการเบื้องต้นและดำเนินการด้วยความระมัดระวัง
ภาพลามกอนาจารที่สร้างโดย AI ของเทย์เลอร์ สวิฟต์ เริ่มแพร่หลายบน X เมื่อวันที่ 24 มกราคม กระตุ้นให้แฟนๆ ของนักร้องสาวโพสต์ภาพถ่ายจริงของเทย์เลอร์ สวิฟต์หลายชุดเพื่อ "กลบ" ดีปเฟก พวกเขายังขอให้ X ดำเนินการอย่างเข้มแข็งยิ่งขึ้นเพื่อลบภาพเหล่านี้และรายงานบัญชีที่แชร์ภาพปลอม สโลแกน "ปกป้องเทย์เลอร์ สวิฟต์" ก็กลายเป็นเทรนด์ยอดนิยมบนแพลตฟอร์มเช่นกัน
วันต่อมา บัญชีที่รายงานถูกระงับหรือจำกัดการใช้งาน แต่ยังคงสามารถค้นหา AI porn บน X ได้อย่างง่ายดาย
ในแถลงการณ์เมื่อสุดสัปดาห์ที่ผ่านมา X ระบุว่าบริษัทห้ามมิให้เผยแพร่ภาพกราฟิกโดยไม่ได้รับอนุญาตจากเจ้าของภาพ และมีนโยบายไม่ยอมรับเนื้อหาดังกล่าวอย่างเด็ดขาด แถลงการณ์ไม่ได้ระบุชื่อ Swift โดยตรง
“ทีมงานของเรากำลังดำเนินการลบรูปภาพทั้งหมดที่พบ และดำเนินการอย่างเหมาะสมกับบัญชีที่โพสต์รูปภาพเหล่านั้น เราจะติดตามสถานการณ์อย่างใกล้ชิด เพื่อให้มั่นใจว่าหากมีการละเมิดใดๆ เพิ่มเติมจะได้รับการแก้ไขโดยทันที และเนื้อหาจะถูกลบออก” X กล่าว
ความก้าวหน้าของ AI เชิงสร้างสรรค์ทำให้การปลอมแปลงภาพอนาจารของผู้อื่นเป็นเรื่องง่ายขึ้น หลังจากอีลอน มัสก์เข้าซื้อกิจการ X ในปี 2022 กฎระเบียบการเซ็นเซอร์หลายข้อก็ได้รับการผ่อนคลายลง ขณะเดียวกัน มัสก์ก็ปลดพนักงานหลายพันคนเพื่อรักษาฐานะทางการเงินให้มั่นคง
ยังไม่ชัดเจนว่าภาพดีปเฟกของเทย์เลอร์ สวิฟต์มีต้นกำเนิดมาจากไหน แต่ภาพเหล่านั้นถูกใส่ลายน้ำเพื่อระบุว่ามาจากเว็บไซต์ที่ขึ้นชื่อเรื่องการเผยแพร่ภาพลามกอนาจารปลอมของคนดัง ตามรายงานของ NBC News เว็บไซต์ดังกล่าวยังมีส่วนที่อุทิศให้กับ AI ดีปเฟกโดยเฉพาะ ภาพปลอมของสวิฟต์มีผู้เข้าชมมากกว่า 27 ล้านครั้ง และกดไลก์มากกว่า 260,000 ครั้งภายใน 19 ชั่วโมงหลังจากโพสต์
หลังเหตุการณ์ดังกล่าว สัตยา นาเดลลา ซีอีโอของไมโครซอฟท์ เรียกร้องให้มีการกำหนดมาตรการควบคุม AI ที่เข้มงวดยิ่งขึ้น ในการให้สัมภาษณ์กับ NBC News เขาโต้แย้งว่าเรามีหน้าที่รับผิดชอบในการตรวจสอบเทคโนโลยีใหม่นี้ เพื่อให้สามารถสร้างเนื้อหาที่ปลอดภัยมากขึ้น
ในการตอบคำถามเกี่ยวกับ Deepfake ของ Swift หัวหน้า Microsoft กล่าวว่า "ใช่ เราต้องดำเนินการ ผมคิดว่าเราทุกคนได้รับประโยชน์จาก โลก ออนไลน์ที่ปลอดภัย ผมไม่คิดว่าใครต้องการ โลก ออนไลน์ที่ไม่ปลอดภัยโดยสิ้นเชิงสำหรับทั้งผู้สร้างเนื้อหาและผู้บริโภคเนื้อหา ดังนั้นผมคิดว่าเราต้องดำเนินการในเรื่องนี้โดยเร็ว"
404 Media รายงานว่า กลุ่มสนทนาทาง Telegram ระบุว่าได้ใช้เครื่องมือ Designer ที่สร้างโดย AI ของ Microsoft เพื่อปลอมแปลงรูปถ่ายของ Taylor นาย Nadella ไม่ได้แสดงความคิดเห็นโดยตรงเกี่ยวกับข้อมูลของ 404 Media แต่ในแถลงการณ์ที่ส่งไปยังเว็บไซต์ข่าว Microsoft ระบุว่ากำลังตรวจสอบรายงานดังกล่าวและจะดำเนินการตามความเหมาะสม
รัฐบาลของไบเดนกล่าวว่าการแพร่กระจายของภาพอนาจาร Deepfake ของเทย์เลอร์ สวิฟต์นั้น "น่าตกใจ" และเรียกร้องให้บริษัทโซเชียลมีเดียตรวจสอบ "บทบาทสำคัญ" ของตนในการบังคับใช้กฎระเบียบเพื่อป้องกันการแพร่กระจายข้อมูลเท็จและภาพที่ละเอียดอ่อนโดยไม่ได้รับความยินยอม
ในเดือนตุลาคม พ.ศ. 2566 ประธานาธิบดีไบเดนได้ลงนามคำสั่งฝ่ายบริหารเกี่ยวกับ AI ที่มุ่งเน้นไปที่การควบคุมเทคโนโลยีใหม่และความเสี่ยงต่างๆ
(ตามรายงานของ The Hill, WSJ)
แหล่งที่มา
การแสดงความคิดเห็น (0)