วิดีโอที่น่าสงสัยว่า AI แอบอ้างเป็นคนพิการเพื่อขายสินค้า ก่อให้เกิดความไม่พอใจ

เครือข่ายโซเชียลพบเห็นวิดีโอคนพิการขายสินค้าที่มีป้ายแปลกๆ มากมาย ทำให้เกิดความไม่ไว้วางใจในชุมชน

บัญชีที่ใช้ AI ปลอมตัวเป็นผู้ขาย ภาพ: TikTok

ด้วยการเกิดขึ้นของชุดเครื่องมือ AI ขั้นสูงในยุคปัจจุบัน การสร้างภาพถ่ายและ วิดีโอ จึงง่ายขึ้นมากด้วยคำสั่งเพียงไม่กี่คำ อย่างไรก็ตาม ความสามารถของผู้ใช้อินเทอร์เน็ตในการแยกแยะระหว่างของจริงและของปลอมยังไม่ทันต่อการพัฒนาดังกล่าว และถูกนำไปใช้ประโยชน์โดยบุคคลบางกลุ่มเพื่อแสวงหากำไร

เมื่อไม่นานมานี้ บัญชี TikTok บัญชีหนึ่งถูกแชร์บนโซเชียลมีเดีย โดยโพสต์วิดีโอชุดหนึ่งเกี่ยวกับผู้หญิงคนหนึ่งที่ถูกตัดแขนทั้งสองข้างและต้องขายของเพื่อหาเลี้ยงลูกเล็กๆ ของเธอ ในคลิปวิดีโอ ผู้หญิงคนนี้สวมเสื้อผ้าเรียบง่าย พูดจาอย่างเห็นอกเห็นใจ แนะนำผลิตภัณฑ์ต่างๆ เช่น กระดาษเช็ดมือและผงซักฟอก

ตามบันทึก ผู้หญิงคนดังกล่าวได้เล่าถึงสถานการณ์การเสียชีวิตก่อนวัยอันควรของสามีจากอุบัติเหตุ โดยต้องเลี้ยงดูลูกเล็กๆ เพียงลำพัง แต่เรื่องราวกลับไม่สอดคล้องกันในวิดีโอ บัญชีดังกล่าวมียอดเข้าชมและยอดการโต้ตอบมากกว่าล้านครั้ง ส่งผลให้มีผู้ติดตามเพิ่มขึ้น 100,000 คนภายใน 3 วันนับตั้งแต่สร้างช่อง หลายคนแสดงความเห็นอกเห็นใจ เรียกร้องการสนับสนุน และถึงขั้นสั่งซื้อสินค้าเพื่อช่วยเหลือ

ผู้ใช้ยังคงค้นพบบัญชีที่มีเนื้อหาคล้ายกัน สิ่งที่ช่องเหล่านี้มีเหมือนกันคือเป็นเพจส่วนตัวที่เพิ่งสร้างขึ้นใหม่ ไม่มีประวัติการโต้ตอบที่แท้จริง และมักแชร์เนื้อหาที่สื่ออารมณ์มากเกินไป

ช่องเหล่านี้มักจะเป็นช่องใหม่และไม่มีโปรไฟล์ที่ชัดเจน

อย่างไรก็ตาม หลังจากนั้นไม่นาน ชาวเน็ตก็สังเกตเห็นสิ่งผิดปกติและความไม่สอดคล้องกันในแต่ละวิดีโอ ตัวอย่างเช่น แขนที่ถูกตัดของผู้หญิงดูเรียบเนียนมาก สีผนังบ้านดูแตกต่างออกไป หรือทารกนอนนิ่งผิดปกติ สาเหตุเป็นเพราะคลิปทั้งหมดถูกสร้างขึ้นโดย AI เพื่อหลอกผู้อื่น

ที่น่าสังเกตคือคำเตือนหรือความคิดเห็นที่เปิดเผยนั้นถูกซ่อนหรือลบโดยเจ้าของบัญชี หลายคนรู้สึกขุ่นเคืองที่ถูกหลอกลวง รวมถึงรู้สึกขุ่นเคืองต่อพฤติกรรมที่แสวงหาผลประโยชน์จากความเห็นอกเห็นใจของผู้คน

นอกจากนี้ วิดีโอปลอมเหล่านี้ยังส่งผลกระทบต่อเจ้าของและคนพิการคนอื่นๆ ที่หาเลี้ยงชีพบนแพลตฟอร์มเดียวกันอีกด้วย นางสาว Tran Thi Nga (อายุ 36 ปี) ใน Phu Tho เจ้าของช่อง Nga Tich Cuc ต้องพูดออกมาอย่างต่อเนื่องว่าเธอมีแขนที่ถูกตัดขาดจริงๆ

ปลายปี 2567 ผู้ป่วยรายนี้ป่วยเป็นโรคกล้ามเนื้อหัวใจอักเสบเฉียบพลันจากไวรัส และถูกบังคับให้ตัดแขนขาทั้งหมด เริ่มต้นชีวิตใหม่ด้วยความรักจากครอบครัว ในการถ่ายทอดสดเมื่อเร็วๆ นี้ เธอได้แสดงความเสียใจที่ถูกตั้งคำถามและถูกพูดจาหยาบคาย

ช่องที่เพิ่งสร้างขึ้นใหม่เหล่านี้มีผู้ติดตามเพิ่มขึ้นอย่างรวดเร็ว ทำให้ยากที่จะสร้างความแตกต่าง บัญชีอื่นที่มีเนื้อหาคล้ายกันชื่อ NLS มีผู้ติดตามเพิ่มขึ้นเกือบ 50,000 คนหลังจากดูวิดีโอเพียงวิดีโอเดียว

ผู้ใช้แสดงความไม่พอใจและสูญเสียความไว้วางใจเมื่อถูกหลอกลวง

ดังนั้น จึงเป็นไปไม่ได้ที่จะตำหนิชุมชนออนไลน์ที่ค่อยๆ สูญเสียศรัทธาในสิ่งที่พวกเขาเห็น และไม่สนใจผู้ที่ต้องการความช่วยเหลืออย่างแท้จริงอีกต่อไป มีความคิดเห็นหนึ่งกล่าวว่า ผู้ที่ใช้เทคโนโลยี AI เพื่อแสวงหาผลประโยชน์จากอารมณ์ความรู้สึกของชุมชนควรได้รับการประณาม

กลโกงทางไซเบอร์กำลังมีความซับซ้อนมากขึ้นเรื่อยๆ โดยพุ่งเป้าไปที่กลุ่มคนที่ไม่ค่อยได้พบปะผู้คนหรือผู้สูงอายุ เจ้าของบัญชีส่วนใหญ่มักจะใช้รูปภาพของผู้ที่ประสบกับเหตุการณ์ร้ายแรง เช่น ผู้ป่วยในโรงพยาบาลหรือผู้พิการ แล้วแนบรูปรถเข็นสินค้าหรือฝากหมายเลขบัญชีไว้เพื่อติดต่อขอความช่วยเหลือ

ก่อนหน้านี้ CNBC ค้นพบว่ามีบัญชี Instagram, YouTube และ TikTok กว่า 30 บัญชีที่ใช้ AI เพื่อปลอมตัวเป็นผู้ป่วยดาวน์ซินโดรม บุคคลเหล่านี้ใช้เรื่องราวสุดเศร้าเพื่อดึงดูดผู้ติดตามและระดมทุนจากชุมชน แต่ในความเป็นจริงแล้ว พวกเขากลับยึดบัญชีเหล่านั้นไว้กับตัวเอง

เหตุการณ์นี้เตือนถึงความเป็นไปได้ที่ AI จะสามารถทำซ้ำเนื้อหาที่สมจริงซึ่งถูกนำไปใช้ประโยชน์โดยผู้ไม่หวังดีได้ เนื่องจากเทคโนโลยีมีการพัฒนาอย่างรวดเร็ว ผู้ใช้จึงจำเป็นต้องเผยแพร่เทคโนโลยีให้เป็นที่รู้จักมากขึ้น รวมถึงช่วยเหลือคนที่ตนรักไม่ให้ตกเป็นเหยื่อของการหลอกลวงทางออนไลน์

ที่มา: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html