เครื่องมือ AI deepfake ใหม่ของ ByteDance ทำให้เกิดความกังวล

ตามรายงานของ TechSpot บริษัท ByteDance ซึ่งเป็นบริษัทเทคโนโลยีสัญชาติจีนที่อยู่เบื้องหลัง TikTok เพิ่งประกาศเปิดตัว OmniHuman-1 ซึ่งเป็นระบบ Deepfake ที่สามารถสร้างภาพมนุษย์ขึ้นมาใหม่ได้สมจริงอย่างเหลือเชื่อ วิดีโอ ที่สร้างขึ้นโดย OmniHuman-1 สามารถหลอกผู้ชมทั่วไปได้ ทำให้เส้นแบ่งระหว่างของจริงและของปลอมในเนื้อหาดิจิทัลเลือนลางลง

วิดีโอจำนวนมากที่สร้างโดย OmniHuman-1 มีทั้ง Albert Einstein, Jensen Huang และอีกหลายคน เพื่อแสดงให้เห็นว่า Deepfake นั้นสมจริงแค่ไหน

รูปภาพ: ภาพหน้าจอ OMNIHUMAN-1

ต่างจากโมเดล Deepfake รุ่นก่อนๆ OmniHuman-1 ต้องการเพียงภาพถ่ายและคลิปเสียงเท่านั้นเพื่อสร้างวิดีโอที่สมบูรณ์ ผู้ใช้สามารถปรับอัตราส่วนภาพ องค์ประกอบร่างกาย หรือแม้แต่แก้ไขการเคลื่อนไหวในวิดีโอที่มีอยู่ได้ AI (ปัญญาประดิษฐ์) สามารถเปลี่ยนการเคลื่อนไหวของมือและท่าทางได้อย่างแม่นยำ ทำให้ผลิตภัณฑ์ดูเป็นธรรมชาติมากขึ้น อย่างไรก็ตาม รายละเอียดบางอย่างก็ยังไม่สมบูรณ์แบบ เช่น ท่าทางที่ไม่เป็นธรรมชาติของการถือแก้วไวน์ หรือมือที่บิดอย่างแปลกประหลาดในวิดีโอที่จำลองการบรรยายของอัลเบิร์ต ไอน์สไตน์

โมเดลได้รับการฝึกอบรมจากวิดีโอ 18,700 ชั่วโมงโดยใช้แนวทาง “เงื่อนไขทุกประการ” เพื่อเรียนรู้จากแหล่งข้อมูลที่หลากหลาย รวมถึงข้อความ เสียง และการเคลื่อนไหวร่างกาย

แม้จะมีความก้าวหน้าทางเทคนิค แต่เทคโนโลยี Deepfake ก็ยังก่อให้เกิดความเสี่ยงร้ายแรงเช่นกัน ในช่วงไม่กี่ปีที่ผ่านมา มีการใช้ Deepfake เพื่อบิดเบือนข้อมูล ฉ้อโกงทางการเงิน และโจมตีชื่อเสียงส่วนบุคคล ในช่วงการเลือกตั้งปี 2024 มีการใช้วิดีโอ Deepfake มากมายเพื่อหลอกลวงผู้ลงคะแนนเสียง เมื่อปีที่แล้ว การฉ้อโกงทางการเงินที่เกี่ยวข้องกับ Deepfake ส่งผลให้เงินถูกขโมยไปหลายพันล้านดอลลาร์ รวมถึงกรณีหนึ่งที่ผู้ฉ้อโกงปลอมตัวเป็นนักแสดง Brad Pitt เพื่อหลอกผู้หญิงคนหนึ่งให้โอนเงิน 850,000 ดอลลาร์

ผู้เชี่ยวชาญด้านจริยธรรมด้าน AI จำนวนมากกังวลเกี่ยวกับความเสี่ยงเหล่านี้ จึงเรียกร้องให้มีการควบคุมกฎระเบียบเพื่อควบคุม Deepfake รัฐต่างๆ หลายแห่งของสหรัฐฯ ได้บัญญัติกฎหมายต่อต้านการสร้างภาพปลอมอันเป็นอันตราย แต่ยังไม่มีกรอบกฎหมายของรัฐบาลกลางที่ครอบคลุม รัฐแคลิฟอร์เนียเสนอให้มีกฎหมายที่จะอนุญาตให้ศาลสามารถบังคับให้ลบข้อมูล Deepfake ออกได้ และลงโทษผู้ที่เผยแพร่ข้อมูลเหล่านี้ แต่กระบวนการออกกฎหมายยังต้องเผชิญกับอุปสรรคมากมาย

ขณะนี้ ByteDance ยังไม่ได้ประกาศแผนการเปิดตัว OmniHuman-1 แต่มีการตีพิมพ์เอกสารการวิจัยเกี่ยวกับโมเดลนี้ ซึ่งแสดงให้เห็นถึงศักยภาพและความเสี่ยงของเทคโนโลยี deepfake ที่กำลังเติบโต

ที่มา: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm