เครื่องมือสร้าง วิดีโอ ใหม่ของ OpenAI กำลังทำให้ครอบครัวของคนดังต้องตกอยู่ในวิกฤต เนื่องจากภาพของคนที่รักซึ่งเสียชีวิตไปแล้วถูก "ปลุกขึ้นมา" โดย AI ในวิดีโอที่น่ารังเกียจ บิดเบือน และบางครั้งก็ทำให้ขายหน้า
วิดีโอที่สร้างโดย AI ของผู้เสียชีวิต ตั้งแต่ Malcolm X ไปจนถึง Whitney Houston ไปจนถึง Kobe Bryant ได้สร้างความวุ่นวายและตั้งคำถามเกี่ยวกับขอบเขตทางจริยธรรมและการควบคุมภาพลักษณ์ในยุคของ AI
เนื้อหาที่น่ารังเกียจ
อิลยาซาห์ ชาบาซซ์ ลูกสาวของมัลคอล์ม เอ็กซ์ นักเคลื่อนไหวเพื่อสิทธิพลเมือง กล่าวว่าเธอไม่ต้องการเห็นคลิปวิดีโอใดๆ ของพ่อที่สร้างโดย AI วิดีโอเหล่านี้สร้างขึ้นโดยใช้ Sora 2 ซึ่งเป็นเครื่องมือแปลงข้อความเป็นวิดีโอที่เพิ่งเปิดตัวใหม่ของ OpenAI เพื่อสร้างฉากที่มัลคอล์ม เอ็กซ์ เล่าเรื่องตลกหยาบคายและโต้เถียงกับบาทหลวงมาร์ติน ลูเธอร์ คิง
“การเห็นภาพลักษณ์ของพ่อถูกเอารัดเอาเปรียบอย่างไร้เหตุผลเช่นนี้เป็นเรื่องที่ไม่เคารพและน่าเศร้าใจอย่างยิ่ง ผมไม่เข้าใจว่าทำไมคนที่พัฒนาเทคโนโลยีนี้ถึงไม่ใส่ใจและปฏิบัติต่อครอบครัวของตัวเองอย่างมีสติเหมือนที่พวกเขาทำ” ชาบาซซ์กล่าวกับ วอชิงตันโพส ต์
 |
Sora 2 สร้างวิดีโอจากภาพของผู้เสียชีวิตโดยไม่ได้รับอนุญาต ภาพ: Bloomberg |
Sora 2 กลายเป็นปรากฏการณ์ระดับโลกอย่างรวดเร็วด้วยความสามารถในการสร้างวิดีโอที่สมจริงอย่างเหลือเชื่อ ภายในไม่กี่วันหลังจากเปิดตัว แอปนี้ก็พุ่งขึ้นสู่อันดับ 1 ในชาร์ตดาวน์โหลด อย่างไรก็ตาม การแพร่กระจายอย่างรวดเร็วของแอปยังทำให้มีวิดีโอคนดังปลอมๆ ปรากฏบนโซเชียลมีเดียเป็นจำนวนมาก
ภาพที่ "ฟื้นคืนชีพ" ของไมเคิล แจ็กสัน, เอลวิส เพรสลีย์ และเอมี ไวน์เฮาส์ แพร่กระจายออกไปอย่างรวดเร็วจนทำให้ผู้ชมหลายคนไม่สามารถแยกแยะระหว่างของจริงและของปลอมได้
วิดีโอบางอันก็ตั้งใจให้ตลก เช่นตอนที่เฟร็ด โรเจอร์ส พิธีกรรายการ "Mr. Rogers' Neighborhood" แร็พกับทูพัค ชาเคอร์ แต่เนื้อหาส่วนใหญ่ที่ถูกสร้างขึ้นมามันมากเกินไป
ในบรรดาวิดีโอเหล่านั้น มีวิดีโอที่สร้างภาพ Whitney Houston ขณะเมาสุราโดยใช้มุมปลอมจากกล้องของตำรวจ, Kobe Bryant บินเฮลิคอปเตอร์ในอุบัติเหตุที่ทำให้เขาและลูกสาวเสียชีวิต และอดีตประธานาธิบดี John F. Kennedy พูดติดตลกเกี่ยวกับการลอบสังหาร นักการเมือง ในยุคปัจจุบัน ทั้งหมดนี้ล้วนทำให้ชุมชนโกรธแค้น
กฎระเบียบที่หลวมตัว
นโยบายของ OpenAI ระบุว่าเครื่องมือนี้สามารถจำลองบุคคลจริงได้เฉพาะเมื่อได้รับความยินยอมจากบุคคลนั้นเท่านั้น อย่างไรก็ตาม ในการเปิดตัวเมื่อเร็วๆ นี้ บริษัทได้ยกเว้น "บุคคลสำคัญทางประวัติศาสตร์" ออกจากกฎนี้ โดยอนุญาตให้ผู้ใช้สามารถสร้างวิดีโอของผู้เสียชีวิตได้อย่างอิสระ การตัดสินใจครั้งนี้สร้างความโกรธแค้นให้กับครอบครัวของผู้เสียชีวิตจำนวนมาก
เซลดา วิลเลียมส์ ลูกสาวของโรบิน วิลเลียมส์ นักแสดงผู้ล่วงลับ ได้แชร์บนอินสตาแกรมว่าเธอได้รับวิดีโอ AI ของพ่อของเธออยู่ตลอดเวลา และขอร้องให้ผู้คน "โปรดหยุด"
“มันเป็นเรื่องบ้ามากที่ได้เห็นมรดกของคนจริง ๆ ถูกลดทอนให้เหลือเพียงการกระทำอันเลวร้ายที่ TikTok ควบคุมพวกเขา” Zelda กล่าว
 |
กฎของ OpenAI เกี่ยวกับการใช้ Sora 2 เต็มไปด้วยช่องโหว่ ภาพ: Bloomberg |
ผู้เชี่ยวชาญกล่าวว่าปรากฏการณ์นี้สะท้อนถึงจุดเปลี่ยนของเทคโนโลยี AI ที่เส้นแบ่งระหว่างความคิดสร้างสรรค์กับความขุ่นเคืองเริ่มเลือนลางลง เฮนรี อัจเดอร์ นักวิจัยด้านดีปเฟก กล่าวว่า “การฟื้นคืนชีพแบบสังเคราะห์” ของคนตายได้ก่อให้เกิดคำถามสำคัญเกี่ยวกับการควบคุมภาพลักษณ์และมรดกส่วนบุคคล
“การใช้ภาพคนดังมาสร้างสรรค์คอนเทนต์ ย่อมดึงดูดผู้ชมได้อย่างแน่นอน แต่กับผู้เสียชีวิตแล้ว มันกลับทำให้เกิดคำถามที่ลึกซึ้งกว่านั้น นั่นคือ ใครเป็นเจ้าของความทรงจำและตัวตนของพวกเขา” อัจเดอร์กล่าว
เพื่อตอบโต้กระแสต่อต้านนี้ OpenAI ระบุว่าจะอนุญาตให้ตัวแทนของบุคคลสาธารณะที่เพิ่งเสียชีวิตสามารถยื่นคำร้องให้บล็อกรูปภาพของพวกเขาจากวิดีโอของโซระได้ “เราเชื่อว่าบุคคลสาธารณะและครอบครัวของพวกเขาควรมีสิทธิ์ควบคุมว่าภาพที่มีลิขสิทธิ์ของพวกเขาจะถูกนำไปใช้อย่างไร” โฆษกของ OpenAI กล่าว
องค์กรหลายแห่งในอุตสาหกรรมบันเทิงของสหรัฐฯ ก็ได้แสดงความกังวลเช่นกัน Creative Artists Agency บริษัทบริหารจัดการของดาราฮอลลีวูดหลายคน กล่าวว่า Sora 2 ได้ทำให้ลูกค้าและทรัพย์สินทางปัญญาตกอยู่ในความเสี่ยงอย่างร้ายแรง สมาคมภาพยนตร์แห่งอเมริกา (MPAA) เรียกร้องให้ OpenAI ดำเนินการ "อย่างเร่งด่วนและเด็ดขาด" เพื่อปกป้องสิทธิ์ของผู้สร้าง
ไม่ใช่แค่ศิลปินเท่านั้น บุคคลสำคัญทางประวัติศาสตร์ก็ตกเป็นเหยื่อเช่นกัน วิดีโอหนึ่งที่โซราสร้างขึ้นเผยให้เห็นวินสตัน เชอร์ชิลล์กำลังโปรโมต JetBlue หรืออ้างอิงมุกตลกหยาบคายบนอินเทอร์เน็ต
ที่มา: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html
การแสดงความคิดเห็น (0)