TechSpot รายงานว่า ByteDance บริษัทเทคโนโลยีสัญชาติจีนผู้อยู่เบื้องหลัง TikTok เพิ่งประกาศเปิดตัว OmniHuman-1 ระบบ Deepfake ที่สามารถสร้างภาพมนุษย์ขึ้นมาใหม่ได้อย่างสมจริงอย่างเหลือเชื่อ วิดีโอ ที่สร้างโดย OmniHuman-1 สามารถหลอกผู้ชมทั่วไปได้ ทำให้เส้นแบ่งระหว่างของจริงและของปลอมในเนื้อหาดิจิทัลเลือนลางลง
วิดีโอจำนวนมากที่สร้างโดย OmniHuman-1 มีทั้ง Albert Einstein, Jensen Huang และคนอื่นๆ อีกมากมาย ซึ่งแสดงให้เห็นว่า Deepfake นั้นสมจริงได้แค่ไหน
ภาพ: ภาพหน้าจอ OMNIHUMAN-1
ต่างจากโมเดล Deepfake รุ่นก่อนๆ OmniHuman-1 ใช้เพียงภาพถ่ายและคลิปเสียงเพื่อสร้างวิดีโอที่สมบูรณ์ ผู้ใช้สามารถปรับอัตราส่วนภาพ องค์ประกอบร่างกาย หรือแม้แต่แก้ไขการเคลื่อนไหวในวิดีโอที่มีอยู่ AI นี้สามารถปรับเปลี่ยนการเคลื่อนไหวของมือและท่าทางได้อย่างแม่นยำ ทำให้ผลิตภัณฑ์ดูเป็นธรรมชาติมากขึ้น อย่างไรก็ตาม รายละเอียดบางอย่างยังไม่สมบูรณ์แบบ เช่น ตำแหน่งที่ไม่เป็นธรรมชาติของการถือแก้วไวน์ หรือการหมุนมือที่แปลกประหลาดในวิดีโอที่จำลองการบรรยายของอัลเบิร์ต ไอน์สไตน์
โมเดลได้รับการฝึกฝนด้วยวิดีโอ 18,700 ชั่วโมง โดยใช้แนวทาง "ทุกเงื่อนไข" เพื่อเรียนรู้จากแหล่งข้อมูลที่หลากหลาย รวมถึงข้อความ เสียง และการเคลื่อนไหวร่างกาย
แม้จะมีความก้าวหน้าทางเทคโนโลยี แต่เทคโนโลยีดีปเฟกก็มีความเสี่ยงร้ายแรงเช่นกัน ในช่วงไม่กี่ปีที่ผ่านมา มีการใช้ดีปเฟกเพื่อบิดเบือนข้อมูล ฉ้อโกงทางการเงิน และทำลายชื่อเสียงส่วนบุคคล ในช่วงการเลือกตั้งปี 2567 มีการใช้วิดีโอดีปเฟกจำนวนมากเพื่อหลอกลวงผู้มีสิทธิเลือกตั้ง ปีที่แล้ว การฉ้อโกงทางการเงินที่เกี่ยวข้องกับดีปเฟกส่งผลให้เงินหลายพันล้านดอลลาร์ถูกขโมย รวมถึงกรณีหนึ่งที่มิจฉาชีพปลอมตัวเป็นนักแสดงแบรด พิตต์ เพื่อหลอกให้ผู้หญิงคนหนึ่งโอนเงิน 850,000 ดอลลาร์
ด้วยความกังวลเกี่ยวกับความเสี่ยงเหล่านี้ ผู้เชี่ยวชาญด้านจริยธรรมด้าน AI หลายคนจึงเรียกร้องให้มีการควบคุมดีปเฟก หลายรัฐของสหรัฐอเมริกาได้ออกกฎหมายต่อต้านดีปเฟกที่เป็นอันตราย แต่ยังไม่มีกรอบการทำงานระดับรัฐบาลกลางที่ครอบคลุม รัฐแคลิฟอร์เนียได้เสนอร่างกฎหมายที่จะอนุญาตให้ศาลบังคับให้ถอดดีปเฟกออกและลงโทษผู้ที่เผยแพร่ แต่กระบวนการทางกฎหมายยังคงเผชิญกับอุปสรรคมากมาย
ในปัจจุบัน ByteDance ยังไม่ได้ประกาศแผนการเปิดตัว OmniHuman-1 แต่มีการตีพิมพ์เอกสารการวิจัยเกี่ยวกับโมเดลนี้แล้ว ซึ่งแสดงให้เห็นถึงศักยภาพและความเสี่ยงของเทคโนโลยี deepfake ที่กำลังเติบโต
ที่มา: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm
การแสดงความคิดเห็น (0)