เครือข่ายโซเชียล X ต้องบล็อกการค้นหาเทย์เลอร์ สวิฟต์ หลัง ภาพลามกอนาจาร ของนักร้องสาวถูกเผยแพร่แบบไวรัล เมื่อผู้ใช้ค้นหาเทย์เลอร์ สวิฟต์บนแพลตฟอร์ม X ผู้ใช้จะเห็นข้อความแสดงข้อผิดพลาดและคำขอให้โหลดหน้าใหม่อีกครั้ง โจ เบอนาร์รอช ผู้อำนวยการฝ่ายปฏิบัติการธุรกิจของ X กล่าวว่านี่เป็นการดำเนินการเบื้องต้นและดำเนินการไปด้วยความรอบคอบ

ของ dhxx6v.png
ภาพเปลือยของเทย์เลอร์ สวิฟต์ที่สร้างด้วย AI ท่วมท้น X และ Facebook ก่อนจะถูกลบออก (ภาพ: รอยเตอร์)

ภาพลามกอนาจารที่สร้างโดย AI ของเทย์เลอร์ สวิฟต์ เริ่มแพร่หลายบน X เมื่อวันที่ 24 มกราคม ทำให้แฟนๆ ของนักร้องสาวโพสต์ภาพจริงของเทย์เลอร์เพื่อ "กลบ" ดีพเฟก พวกเขายังขอให้ X ดำเนินการที่เข้มงวดยิ่งขึ้นเพื่อลบภาพเหล่านี้และรายงานบัญชีที่แชร์ภาพปลอม สโลแกน "ปกป้องเทย์เลอร์ สวิฟต์" ยังกลายเป็นกระแสหลักบนแพลตฟอร์มอีกด้วย

วันต่อมา บัญชีที่รายงานก็ถูกระงับหรือจำกัดการใช้งาน แต่ยังคงสามารถพบ AI porn บน X ได้อย่างง่ายดาย

ในแถลงการณ์เมื่อสุดสัปดาห์ที่ผ่านมา X ระบุว่าบริษัทห้ามแบ่งปันภาพที่มีเนื้อหารุนแรงโดยไม่ได้รับอนุญาตจากบุคคลดังกล่าว และมีนโยบายไม่ยอมรับเนื้อหาดังกล่าวโดยเด็ดขาด แถลงการณ์ดังกล่าวไม่ได้ระบุชื่อ Swift โดยตรง

“ทีมงานของเรากำลังดำเนินการลบรูปภาพทั้งหมดที่พบและดำเนินการที่เหมาะสมกับบัญชีที่โพสต์รูปภาพเหล่านั้น เราจะติดตามสถานการณ์อย่างใกล้ชิดเพื่อให้แน่ใจว่าจะจัดการกับการละเมิดเพิ่มเติมทันทีและลบเนื้อหาออก” X กล่าว

ความก้าวหน้าของ AI เชิงสร้างสรรค์ทำให้การสร้างภาพอนาจารของผู้อื่นเป็นเรื่องง่ายขึ้น ด้วย X หลังจากที่ Elon Musk เข้าซื้อกิจการในปี 2022 กฎระเบียบการเซ็นเซอร์ต่างๆ มากมายได้รับการผ่อนปรนลง ในขณะเดียวกัน เขาก็เลิกจ้างพนักงานหลายพันคนเพื่อรักษาเสถียรภาพทางการเงินของเขา

ยังไม่ชัดเจนว่า Deepfakes ของ Taylor Swift มีที่มาจากไหน แต่มีการใส่ลายน้ำเพื่อระบุว่ามาจากเว็บไซต์ที่รู้จักกันว่าจำหน่ายภาพลามกอนาจารปลอมของคนดัง ตามรายงานของ NBC News เว็บไซต์ดังกล่าวยังมีส่วนที่อุทิศให้กับ Deepfakes ที่ใช้ AI อีกด้วย ภาพปลอมของ Taylor Swift มีผู้เข้าชมมากกว่า 27 ล้านครั้งและกดถูกใจมากกว่า 260,000 ครั้งภายใน 19 ชั่วโมงหลังจากโพสต์

หลังจากเหตุการณ์ดังกล่าว Satya Nadella ซีอีโอของ Microsoft เรียกร้องให้มีการกำหนดมาตรการควบคุม AI ที่เข้มงวดยิ่งขึ้น ในการสัมภาษณ์กับ NBC News เขาโต้แย้งว่าเรามีหน้าที่ตรวจสอบเทคโนโลยีใหม่นี้เพื่อให้ผลิตเนื้อหาที่ปลอดภัยมากขึ้น

ในการตอบคำถามเกี่ยวกับ Deepfake ของ Swift หัวหน้าของ Microsoft กล่าวว่า: "ใช่ เราต้องดำเนินการ ฉันคิดว่าเราทุกคนได้รับประโยชน์จากโลก ออนไลน์ที่ปลอดภัย ฉันไม่คิดว่าใครต้องการโลกออนไลน์ที่ไม่ปลอดภัยโดยสิ้นเชิงสำหรับทั้งผู้สร้างเนื้อหาและผู้บริโภคเนื้อหา ดังนั้นฉันคิดว่าเราต้องดำเนินการในประเด็นนี้อย่างรวดเร็ว"

ตามรายงานของ 404 Media กลุ่มสนทนา Telegram ระบุว่ากลุ่มดังกล่าวใช้เครื่องมือ Designer ที่สร้างโดย AI ของ Microsoft เพื่อปลอมแปลงรูปภาพของ Taylor นาย Nadella ไม่ได้แสดงความคิดเห็นโดยตรงเกี่ยวกับข้อมูลของ 404 Media แต่ในแถลงการณ์ที่ส่งไปยังเว็บไซต์ข่าว Microsoft ระบุว่ากำลังดำเนินการสอบสวนรายงานดังกล่าวและจะดำเนินการที่เหมาะสม

รัฐบาลของไบเดนกล่าวว่าการแพร่กระจายของภาพอนาจาร Deepfake ของเทย์เลอร์ สวิฟต์เป็นเรื่อง "น่าตกใจ" และเรียกร้องให้บริษัทโซเชียลมีเดียตรวจสอบ "บทบาทสำคัญ" ของตนในการบังคับใช้กฎระเบียบเพื่อป้องกันการแพร่กระจายข้อมูลเท็จและภาพละเอียดอ่อนโดยไม่ได้รับความยินยอม

ในเดือนตุลาคม พ.ศ. 2566 ประธานาธิบดีไบเดนได้ลงนามในคำสั่งบริหารว่าด้วย AI ซึ่งมุ่งเน้นไปที่การควบคุมเทคโนโลยีเกิดใหม่และความเสี่ยงต่างๆ

(ตามรายงานของ The Hill, WSJ)