ภาพปลอมแปลงทางการเมือง (deepfake) ติดอันดับต้น ๆ ของผู้ใช้ AI ที่เป็นอันตราย

[โฆษณา_1]

ผลการวิจัยจาก Google DeepMind ชี้ให้เห็นว่า การสร้างภาพ วิดีโอ และไฟล์เสียงเลียนแบบมนุษย์นั้น พบได้บ่อยกว่าการสร้างข้อมูลเท็จโดยใช้เครื่องมืออย่างแชทบอท AI เกือบสองเท่า

จากการวิเคราะห์พบว่า เป้าหมายที่พบบ่อยที่สุดของผู้ที่ใช้ปัญญาประดิษฐ์สังเคราะห์ในทางที่ผิด คือการสร้างหรือมีอิทธิพลต่อความคิดเห็นสาธารณะ คิดเป็น 27% ของการใช้งานทั้งหมด ซึ่งก่อให้เกิดความกังวลว่าเทคโนโลยี deepfake อาจส่งผลกระทบต่อการเลือกตั้งทั่วโลกในปีนี้อย่างไร

การวิจัย deepfake ทางการเมืองติดอันดับต้น ๆ ของมัลแวร์ที่ขับเคลื่อนด้วย AI (รูปที่ 1) — ภาพศิลปะปลอมที่แสดงภาพ นายกรัฐมนตรี อังกฤษ ริชี ซูนัค ปรากฏขึ้นบน TikTok และ Instagram ก่อนการเลือกตั้งทั่วไป ภาพ: AFP

ในช่วงไม่กี่เดือนที่ผ่านมา มีคลิปวิดีโอปลอม (Deepfake) ของนายกรัฐมนตรีริชี ซูนัค แห่งอังกฤษ รวมถึงผู้นำระดับโลกคนอื่นๆ ปรากฏบน TikTok, X และ Instagram ผู้มีสิทธิเลือกตั้งชาวอังกฤษจะไปลงคะแนนเสียงในการเลือกตั้งทั่วไปสัปดาห์หน้า

มีความกังวลว่า แม้แพลตฟอร์มโซเชียลมีเดียจะพยายามติดป้ายกำกับหรือลบเนื้อหาดังกล่าวแล้วก็ตาม ผู้ชมอาจไม่รู้ว่าเป็นเนื้อหาปลอม และการเผยแพร่เนื้อหาดังกล่าวอาจส่งผลต่อผู้ลงคะแนนเสียงได้

Ardi Janjeva นักวิจัยจากสถาบัน Alan Turing กล่าวว่า ผลการค้นพบในบทความนี้ "มีความเกี่ยวข้องอย่างยิ่ง" โดยชี้ว่าข้อมูลสาธารณะที่สร้างขึ้นโดย AI อาจ "บิดเบือนความเข้าใจทั่วไปของเราเกี่ยวกับความเป็นจริงทางสังคม และการเมือง "

"แม้ว่าเราจะไม่แน่ใจเกี่ยวกับผลกระทบของ deepfake ต่อพฤติกรรมการลงคะแนนเสียง แต่การบิดเบือนนี้อาจตรวจจับได้ยากในระยะสั้นและก่อให้เกิดความเสี่ยงต่อประชาธิปไตยในระยะยาว" Janjeva กล่าวเสริม

"มีข้อกังวลมากมายเกี่ยวกับภัยคุกคามทางไซเบอร์ที่ซับซ้อนซึ่งเครื่องมือเหล่านี้สามารถสร้างขึ้นได้" นาเฮมา มาร์ชาล นักวิจัยและผู้เขียนหลักของการศึกษาจาก Google DeepMind กล่าว

นักวิจัยจาก Google DeepMind และ Jigsaw ได้วิเคราะห์กรณีการใช้ AI ในทางที่ผิดประมาณ 200 กรณี ตั้งแต่เดือนมกราคม 2023 ถึงเดือนมีนาคม 2024 ซึ่งรวบรวมข้อมูลจากแพลตฟอร์มโซเชียลมีเดีย X และ Reddit รวมถึงบล็อกออนไลน์และรายงานข่าวเกี่ยวกับการใช้ในทางที่ผิด

แรงจูงใจที่พบได้บ่อยเป็นอันดับสองในการใช้ AI ในทางที่ผิดคือการหาเงิน ซึ่งรวมถึงการสร้างภาพเปลือยของบุคคลจริง หรือการใช้ AI ในการสร้างเนื้อหาประเภทต่างๆ เช่น บทความข่าวปลอม สถานการณ์ส่วนใหญ่ใช้เครื่องมือที่เข้าถึงได้ง่ายและ "ต้องการความเชี่ยวชาญทางเทคนิคเพียงเล็กน้อย" ซึ่งหมายความว่าผู้กระทำผิดจำนวนมากสามารถใช้ AI ในทางที่ผิดได้อย่างสร้างสรรค์

ง็อก อานห์ (อ้างอิงจาก FT)

[โฆษณา_2]
ที่มา: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html