โซเชียลมีเดีย X ต้องบล็อกการค้นหาเทย์เลอร์ สวิฟต์ หลังจาก ภาพลามกอนาจารแบบ Deepfake ของนักร้องสาวกลายเป็นไวรัล เมื่อค้นหาเทย์เลอร์ สวิฟต์บนแพลตฟอร์ม X ผู้ใช้จะเห็นข้อความแสดงข้อผิดพลาดและขอให้โหลดหน้าเว็บใหม่ โจ เบนารอช ผู้อำนวยการฝ่ายปฏิบัติการธุรกิจของ X กล่าวว่านี่เป็นมาตรการเบื้องต้นและกำลังดำเนินการอย่างระมัดระวัง

ของ dhxx6v.png
ภาพเปลือยของเทย์เลอร์ สวิฟต์ ที่สร้างโดย AI ท่วมท้น X และ Facebook ก่อนจะถูกลบออก (ภาพ: รอยเตอร์)

ภาพลามกอนาจารที่สร้างโดย AI ของเทย์เลอร์ สวิฟต์ เริ่มแพร่หลายบน X เมื่อวันที่ 24 มกราคม กระตุ้นให้แฟนๆ ของนักร้องสาวโพสต์ภาพถ่ายจริงของเทย์เลอร์ สวิฟต์หลายชุดเพื่อ "กลบ" ดีปเฟก พวกเขายังขอให้ X ดำเนินการอย่างเข้มแข็งยิ่งขึ้นเพื่อลบภาพเหล่านี้และรายงานบัญชีที่แชร์ภาพปลอม สโลแกน "ปกป้องเทย์เลอร์ สวิฟต์" ก็กลายเป็นเทรนด์ยอดนิยมบนแพลตฟอร์มเช่นกัน

วันต่อมา บัญชีที่รายงานถูกระงับหรือจำกัดการใช้งาน แต่ยังคงสามารถค้นหา AI porn บน X ได้อย่างง่ายดาย

ในแถลงการณ์เมื่อสุดสัปดาห์ที่ผ่านมา X ระบุว่าบริษัทห้ามมิให้เผยแพร่ภาพกราฟิกโดยไม่ได้รับอนุญาตจากเจ้าของภาพ และมีนโยบายไม่ยอมรับเนื้อหาดังกล่าวอย่างเด็ดขาด แถลงการณ์ไม่ได้ระบุชื่อ Swift โดยตรง

“ทีมงานของเรากำลังดำเนินการลบรูปภาพทั้งหมดที่พบ และดำเนินการอย่างเหมาะสมกับบัญชีที่โพสต์รูปภาพเหล่านั้น เราจะติดตามสถานการณ์อย่างใกล้ชิด เพื่อให้มั่นใจว่าหากมีการละเมิดใดๆ เพิ่มเติมจะได้รับการแก้ไขโดยทันที และเนื้อหาดังกล่าวจะถูกลบออก” X กล่าว

ความก้าวหน้าของ AI เชิงสร้างสรรค์ทำให้การปลอมแปลงภาพอนาจารของผู้อื่นเป็นเรื่องง่ายขึ้น หลังจาก X อยู่ภายใต้การควบคุมของอีลอน มัสก์ในปี 2022 กฎระเบียบการเซ็นเซอร์หลายข้อก็ได้รับการผ่อนคลายลง ในขณะเดียวกัน มัสก์ก็ได้ปลดพนักงานหลายพันคนเพื่อรักษาเสถียรภาพทางการเงิน

ตามรายงานของ NBC News ยังไม่เป็นที่แน่ชัดว่าภาพ Deepfake ของ Taylor Swift มาจากที่ใด แต่ภาพเหล่านั้นถูกใส่ลายน้ำเพื่อระบุว่ามาจากเว็บไซต์ที่ขึ้นชื่อเรื่องการเผยแพร่ภาพลามกอนาจารปลอมของคนดัง นอกจากนี้ เว็บไซต์ยังมีส่วนที่อุทิศให้กับ AI Deepfake อีกด้วย ภาพปลอมของ Swift มีผู้เข้าชมมากกว่า 27 ล้านครั้ง และกดไลก์มากกว่า 260,000 ครั้งหลังจากโพสต์ไป 19 ชั่วโมง

หลังเหตุการณ์ดังกล่าว สัตยา นาเดลลา ซีอีโอของไมโครซอฟท์ เรียกร้องให้มีการกำหนดมาตรการควบคุม AI ที่เข้มงวดยิ่งขึ้น ในการให้สัมภาษณ์กับ NBC News เขาโต้แย้งว่าเรามีหน้าที่รับผิดชอบในการตรวจสอบเทคโนโลยีใหม่นี้ เพื่อให้สามารถสร้างเนื้อหาที่ปลอดภัยมากขึ้น

ในการตอบคำถามเกี่ยวกับ Deepfake ของ Swift หัวหน้า Microsoft กล่าวว่า "ใช่ เราต้องดำเนินการ ผมคิดว่าเราทุกคนได้รับประโยชน์จาก โลก ออนไลน์ที่ปลอดภัย ผมไม่คิดว่าใครต้องการโลกออนไลน์ที่ไม่ปลอดภัยโดยสิ้นเชิงสำหรับทั้งผู้สร้างเนื้อหาและผู้บริโภคเนื้อหา ดังนั้นผมคิดว่าเราต้องดำเนินการในเรื่องนี้โดยเร็ว"

404 Media รายงานว่า กลุ่มสนทนาทาง Telegram ระบุว่าได้ใช้เครื่องมือ Designer ที่สร้างโดย AI ของ Microsoft เพื่อปลอมแปลงรูปถ่ายของ Taylor นาย Nadella ไม่ได้แสดงความคิดเห็นโดยตรงเกี่ยวกับข้อมูลของ 404 Media แต่ในแถลงการณ์ที่ส่งไปยังเว็บไซต์ข่าว Microsoft ระบุว่ากำลังตรวจสอบรายงานดังกล่าวและจะดำเนินการตามความเหมาะสม

รัฐบาลของประธานาธิบดีโจ ไบเดนแห่งสหรัฐฯ เรียกการแพร่กระจายของภาพอนาจาร Deepfake ของเทย์เลอร์ สวิฟต์ว่า "น่าตกใจ" และเรียกร้องให้บริษัทโซเชียลมีเดียตรวจสอบ "บทบาทสำคัญ" ของตนในการบังคับใช้กฎระเบียบเพื่อป้องกันการแพร่กระจายข้อมูลเท็จและภาพละเอียดอ่อนโดยไม่ได้รับความยินยอม

ในเดือนตุลาคม พ.ศ. 2566 ประธานาธิบดีไบเดนได้ลงนามคำสั่งฝ่ายบริหารเกี่ยวกับ AI ที่มุ่งเน้นไปที่การควบคุมเทคโนโลยีใหม่และความเสี่ยงต่างๆ

(ตามรายงานของ The Hill, WSJ)