จากรูปภาพ วิดีโอ สู่เพลง AI: ระวัง 'พายุทอร์นาโด' ของเนื้อหา AI บนโซเชียลเน็ตเวิร์ก

ปัญญาประดิษฐ์ (AI) กำลังถูกนำไปใช้ประโยชน์ในกิจกรรมเชิงพาณิชย์ออนไลน์ ตั้งแต่การขายไปจนถึงการฉ้อโกงการกุศล ทำให้หน่วยงานกำกับดูแลและธุรกิจต่างๆ ต้องรีบหาทางแก้ไขเพื่อระบุและควบคุมความเสี่ยงในยุคของเนื้อหาเทียม

รูปภาพและ วิดีโอ ที่ถูกแก้ไขและเพิ่มโดย AI มากขึ้นถูกโพสต์บนโซเชียลเน็ตเวิร์กเพื่อดึงดูดผู้ชม - รูปภาพ: DUC THIEN

หากในอดีต การสร้างภาพปลอม ผู้ใช้ทั่วไปต้องจ้างผู้เชี่ยวชาญด้าน Photoshop แต่ในปัจจุบันมี AI เพียงเวลาไม่ถึง 5 นาที และด้วยทักษะพื้นฐานบางประการ ภาพปลอมจำนวนหนึ่งก็สามารถปรากฏขึ้นได้ทุกที่

เมื่อ AI สร้างภาพ วิดีโอ เพลง... ที่สมจริงจนยากที่จะเชื่อ

นางสาวฮว่าน มาย (โฮจิมินห์) ซึ่งเป็นเจ้าหน้าที่ฝ่ายสื่อสาร ขณะเล่น Facebook เป็นประจำทุกวัน กล่าวว่า มีเนื้อหาเกี่ยวกับการแทรกแซงของเครื่องมือ AI ที่ผู้ใช้โพสต์มากขึ้นเรื่อยๆ

"มีรูปภาพมากมายที่เพื่อนหรือสมาชิกในกลุ่มโพสต์ไว้ ซึ่งดูสมจริงมากจนฉันแทบจะบอกไม่ได้ว่ามีการใช้ AI หรือไม่ ถ้าพวกเขาไม่ได้บอก ยิ่งไปกว่านั้น ยังมีวิดีโออีกมากมาย ตั้งแต่แอนิเมชัน จินตนาการ ภาพยนตร์สั้น หรือวิดีโอที่เกี่ยวข้องกับเหตุการณ์ในชีวิตจริง ที่สร้างโดยเครื่องมือ AI แต่ฉันไม่สามารถรู้ได้" คุณหมีเล่า

ไม่เพียงแต่รูปภาพและวิดีโอเท่านั้น แม้แต่บนโซเชียลมีเดียอย่าง YouTube ก็ยังมีเพลงมากมายที่ขับร้องหรือแต่งโดย "นักร้อง AI" ผู้ใช้หลายคนต่างตื่นเต้นกับประสบการณ์ใหม่นี้และแข่งขันกันแชร์ประสบการณ์นี้บนโซเชียลมีเดียกับเพื่อนๆ

“ผมบอกไม่ได้ว่าเป็นนักร้อง AI หรือเปล่าถ้ายังไม่มีการประกาศออกมา เนื้อหา AI กำลังแพร่หลายมากขึ้นในโลกไซเบอร์ของเวียดนาม ผู้ใช้ทั่วไปอย่างผมคงจะไม่รู้อีกไม่นานว่าเนื้อหาไหนมาจากคนจริงๆ เนื้อหาไหนมาจาก AI หรือถูก AI แทรกแซง” ข่านห์ ฮา (โฮจิมินห์) กล่าว

เมื่อเร็วๆ นี้ แพลตฟอร์มโซเชียลเน็ตเวิร์กหลายแห่งในเวียดนามได้นำเสนอวิดีโอและไลฟ์สตรีมที่ขายผลิตภัณฑ์จากคนพิการ ทำให้ชุมชนออนไลน์มีความเห็นอกเห็นใจและแบ่งปันกันมากขึ้น

อย่างไรก็ตาม ต่อมามีกรณีมากมายที่ถูกเปิดโปงโดยชุมชนออนไลน์ว่าใช้ AI เพื่อเปลี่ยนคนธรรมดาให้กลายเป็นคนพิการ จุดประสงค์ของกลอุบายนี้คือการใช้ประโยชน์จากความเห็นอกเห็นใจของผู้ชมเพื่อขายสินค้าหรือให้บริการฉ้อโกง

ผู้เชี่ยวชาญด้านเทคโนโลยีหลายคนระบุว่าเมื่อเร็วๆ นี้ พบว่ามีบัญชีผู้ใช้งานบนโซเชียลมีเดียจำนวนมากขึ้นเรื่อยๆ ที่โพสต์วิดีโอขายสินค้าพร้อมรูปภาพของคนพิการ คนป่วย หรือผู้ด้อยโอกาส เพื่อเรียกร้องความเห็นใจ อย่างไรก็ตาม ความเป็นจริงกลับแสดงให้เห็นว่าเนื้อหาส่วนใหญ่เหล่านี้ถูกสร้างหรือตัดต่อด้วยเครื่องมือ AI ซึ่งเปลี่ยนคนธรรมดาให้กลายเป็นคนพิการเพื่อแสวงหากำไรหรือฉ้อโกง

คุณมิลโก ราโดติค รองประธานฝ่ายภูมิภาคเอเชีย แปซิฟิก ของ iProov ผู้ให้บริการเทคโนโลยีการยืนยันตัวตนด้วยข้อมูลชีวภาพชั้นนำของโลก ให้สัมภาษณ์กับ Tuoi Tre ว่า "ผลการวิจัยของเราแสดงให้เห็นว่าผู้เข้าร่วม 99.9% ไม่สามารถจดจำดีปเฟกได้ แม้แต่เครื่องมือตรวจจับขั้นสูงในปัจจุบันก็ยังประสบปัญหาหลายประการ"

เพิ่มความต้านทานให้กับผู้ใช้ดิจิทัล

คุณ Dang Huu Son รองผู้อำนวยการสถาบันวิจัยประยุกต์และพัฒนาทรัพยากรมนุษย์ AIOV ผู้ก่อตั้งและซีอีโอของบริษัท LovinBot AI กล่าวว่า นับตั้งแต่ Google เปิดตัวเทคโนโลยี AI Nano Banana, Veo 3, ByteDance เปิดตัว Seedream 4 และก่อนหน้านั้น OpenAI เปิดตัว GPT Image ตลาด AI ก็คึกคักเป็นอย่างมากและยังส่งผลกระทบต่างๆ ตามมาอีกมากมาย

“เทคโนโลยีไม่เคยเข้าถึงได้ง่ายเท่าทุกวันนี้มาก่อน เหล่านี้เป็นโมเดล AI ที่ทรงพลังอย่างยิ่ง ซึ่งสามารถ “ลอกเลียนแบบใบหน้า” ได้เกือบ 90% หรือแม้กระทั่ง 99% เมื่อเทียบกับภาพถ่ายต้นฉบับ” คุณซอนกล่าว

หากในอดีต การสร้างภาพปลอม ผู้ใช้ทั่วไปต้องจ้างผู้เชี่ยวชาญด้าน Photoshop ให้ทำ แต่ในปัจจุบันนี้ ด้วย AI คุณสามารถสร้างภาพปลอม วิดีโอปลอมที่ตัดต่อและวางได้ และเพิ่มเอฟเฟกต์คล้ายข่าว ในเวลาไม่ถึง 5 นาที

“ข่าวปลอมถูกพูดซ้ำแล้วซ้ำเล่า มีความหนาแน่นสูงและเข้าถึงได้ง่าย ทำให้ผู้คนจำนวนมากที่พบเจอทุกวันเชื่อว่าเป็นเรื่องจริง ดังนั้น จึงจำเป็นต้องมีแนวทางแก้ไขเพื่อจำกัดปัญหาดังกล่าว” นายซอนกล่าว

คุณ Trinh Nguyen Thien Phuoc ผู้อำนวยการฝ่ายเทคโนโลยีของบริษัท Gianty Vietnam กล่าวว่า การจะแยกแยะเนื้อหาที่สร้างโดย AI ได้นั้น จำเป็นต้องมี 3 ชั้น ได้แก่ (1) ทักษะการยืนยันตัวตนของผู้ใช้ (พร้อมกฎทอง) (2) เครื่องมือทางเทคนิค เช่น Content Credentials (C2PA) สัญลักษณ์ระบุลายน้ำ (SynthID, AudioSeal) และเครื่องตรวจจับ deepfake และ (3) กระบวนการประสานงานระหว่างฝ่ายที่เกี่ยวข้อง เช่น แพลตฟอร์ม ผู้ให้บริการเครือข่าย ธนาคาร...

โดยเฉพาะอย่างยิ่ง กฎทองจะต้องทำอย่างรวดเร็วภายใน 30 - 60 วินาที รวมถึง: อย่าคลิกลิงก์แปลก ๆ และไปที่แอป/เว็บไซต์อย่างเป็นทางการเพื่อทำการตรวจสอบ หยุดทันทีเมื่อพบคำหลักที่บังคับให้ดำเนินการ (OTP/โอนเงิน/เร่งด่วน)

ในเวลาเดียวกันผู้ใช้ควรตรวจสอบกับแหล่งข้อมูลอิสระสองแหล่งก่อนที่จะเชื่อ ตรวจสอบวันที่ เวลา และบริบท (ข่าวเก่าที่ปลอมตัวเป็นข่าวใหม่); โทรกลับไปยังหมายเลขทางการที่คุณค้นพบด้วยตนเอง อย่าใช้หมายเลขที่ให้โดยผู้อื่น; ด้วยรูปภาพและวิดีโอ ผู้ใช้สามารถค้นหาผลลัพธ์ที่เกี่ยวข้องได้...

ผู้เชี่ยวชาญหลายคนเชื่อว่าทางออกที่สำคัญที่สุดในการรับมือกับกระแสเนื้อหาปลอมที่ถูกสร้างขึ้นโดย AI คือการสร้างความตระหนักรู้ให้กับสาธารณชน แทนที่จะมุ่งเน้นเฉพาะมาตรการทางเทคนิค จำเป็นต้องสร้างโปรแกรมฝึกอบรม การแข่งขัน หรือการจำลองสถานการณ์จริง เพื่อช่วยให้ผู้คนเปลี่ยนพฤติกรรมการรับข้อมูล

สำหรับคนหนุ่มสาว โดยเฉพาะนักศึกษา การผสมผสานการแข่งขันออนไลน์ แคมเปญสื่อกับคนดังหรือ KOL สามารถสร้างแรงดึงดูดตามธรรมชาติ ช่วยให้พวกเขาเรียนรู้และสัมผัสประสบการณ์ พร้อมกับฝึกฝนทักษะในการระบุข่าวปลอมและวิดีโอปลอม ขณะเดียวกัน ผู้สูงอายุ โดยเฉพาะในพื้นที่ชนบท ต้องการรูปแบบที่คุ้นเคยและเข้าใจง่ายมากขึ้น เช่น แผ่นพับภาพประกอบ วิดีโอแนะนำ หรือการฉายภาพยนตร์ตามบ้านวัฒนธรรมและกิจกรรมชุมชน

“แนวทางที่เหมาะสมกับแต่ละกลุ่มคนจะช่วยสร้างรากฐานการรับรู้ที่มั่นคงในระยะยาว แทนที่จะหยุดอยู่แค่กิจกรรมระยะสั้นๆ ตัวอย่างเช่น บางหน่วยงานได้พัฒนาส่วนขยายที่สามารถติดตั้งบนเบราว์เซอร์ Chrome เพื่อสนับสนุนผู้ใช้ในการตรวจสอบข่าวสารขณะท่องเว็บหรือโซเชียลมีเดีย...” คุณดัง ฮู ซอน กล่าว

การใช้ AI เพื่อตรวจจับ AI ปลอม

เมื่อเร็วๆ นี้ บริษัทโทรศัพท์ Honor ได้นำฟีเจอร์ AI Deepfake Detection มาใช้กับสมาร์ทโฟนรุ่นใหม่ ฟีเจอร์นี้สามารถวิเคราะห์ภาพและเสียงได้ภายใน 3 วินาที เพื่อแจ้งเตือนว่ามีของปลอมบนแอปพลิเคชันต่างๆ เช่น Messenger, Zalo, Viber หรือ Google Meet นับเป็น "เกราะป้องกันดิจิทัล" เพื่อปกป้องผู้ใช้จากการหลอกลวงทางเทคโนโลยีขั้นสูง

ก่อนหน้านี้ในเดือนกันยายน พ.ศ. 2568 MoMo ได้ประกาศความร่วมมือกับ iProov เพื่อนำเทคโนโลยี Dynamic Liveness มาใช้งานเพื่อช่วยตรวจสอบว่าผู้ใช้เป็นของจริง มีตัวตนที่ถูกต้อง และอยู่ในขณะทำธุรกรรม ซึ่งป้องกันการฉ้อโกงโดยใช้ deepfake วิดีโอหรือรูปภาพปลอม

ในภาคส่วนที่มีความเสี่ยงสูง เช่น การเงิน ระดับความปลอดภัยนี้มีความสำคัญอย่างยิ่งต่อการป้องกันการฉ้อโกง ป้องกันการเข้าถึงโดยไม่ได้รับอนุญาต และรักษาความไว้วางใจของผู้ใช้ในแพลตฟอร์ม

กลับสู่หัวข้อ

คุณธรรม

ที่มา: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm