การวิจัย DeepMind ของ Google พบว่าการสร้างภาพ วิดีโอ และเสียงที่เลียนแบบมนุษย์นั้นพบบ่อยเกือบสองเท่าของการสร้างข้อมูลเท็จโดยใช้เครื่องมือ เช่น แชทบอท AI
จากการวิเคราะห์พบว่าเป้าหมายที่พบบ่อยที่สุดของผู้ที่ใช้ AI สังเคราะห์ในทางที่ผิดคือการกำหนดหรืออิทธิพลต่อความคิดเห็นสาธารณะ ซึ่งคิดเป็นร้อยละ 27 ของการใช้งานทั้งหมด ทำให้เกิดความกังวลว่าเทคโนโลยี Deepfake อาจส่งผลต่อการเลือกตั้งทั่วโลกในปีนี้อย่างไร
งานศิลปะปลอมของริชี ซูแนก นายกรัฐมนตรี อังกฤษ ปรากฏบน TikTok และ Instagram ก่อนการเลือกตั้งทั่วไป ภาพ: AFP
Deepfakes ของนายกรัฐมนตรีอังกฤษ ริชิ ซูแนก และผู้นำระดับโลกคนอื่นๆ ปรากฏบน TikTok, X และ Instagram ในช่วงไม่กี่เดือนที่ผ่านมา ผู้มีสิทธิเลือกตั้งชาวอังกฤษจะไปลงคะแนนเสียงในสัปดาห์หน้าในการเลือกตั้งทั่วไป
มีข้อกังวลว่าแม้โซเชียลมีเดียจะพยายามติดป้ายกำกับหรือลบเนื้อหาดังกล่าว แต่ผู้ชมอาจไม่มองว่าเป็นเนื้อหาปลอม และการเผยแพร่เนื้อหาดังกล่าวอาจมีอิทธิพลต่อผู้ลงคะแนนเสียงได้
Ardi Janjeva ผู้ช่วยวิจัยที่สถาบัน Alan Turing กล่าวถึงผลการค้นพบของเอกสารนี้ว่า "มีความเกี่ยวข้องเป็นพิเศษ" นั่นคือข้อมูลสาธารณะที่สร้างขึ้นโดย AI สามารถ "บิดเบือนความเข้าใจร่วมกันของเราเกี่ยวกับความเป็นจริง ทางสังคมและการเมือง " ได้
“แม้ว่าเราจะไม่แน่ใจเกี่ยวกับผลกระทบของ Deepfakes ต่อพฤติกรรมการลงคะแนนเสียง แต่การบิดเบือนดังกล่าวอาจตรวจจับได้ยากในระยะสั้น และก่อให้เกิดความเสี่ยงต่อประชาธิปไตยในระยะยาว” Janjeva กล่าวเสริม
Nahema Marchal นักวิจัยและหัวหน้าคณะผู้จัดทำผลการศึกษาวิจัยที่ Google DeepMind กล่าวว่า "มีข้อกังวลมากมายเกี่ยวกับการโจมตีทางไซเบอร์ที่ซับซ้อนซึ่งเกิดขึ้นโดยใช้เครื่องมือเหล่านี้"
นักวิจัยจาก Google DeepMind และ Jigsaw วิเคราะห์กรณีการใช้ AI ในทางที่ผิดจำนวนประมาณ 200 กรณีระหว่างเดือนมกราคม 2023 ถึงเดือนมีนาคม 2024 โดยนำมาจากเครือข่ายโซเชียล X และ Reddit รวมไปถึงบล็อกออนไลน์และรายงานสื่อเกี่ยวกับการใช้ในทางที่ผิด
แรงจูงใจที่พบบ่อยเป็นอันดับสองเบื้องหลังการละเมิดคือการหารายได้ เช่น การสร้างภาพเปลือยของคนจริงหรือการใช้ AI เพื่อสร้างเนื้อหาต่างๆ เช่น บทความข่าวปลอม สถานการณ์ส่วนใหญ่เกี่ยวข้องกับเครื่องมือที่เข้าถึงได้ซึ่ง "ต้องการความเชี่ยวชาญด้านเทคนิคเพียงเล็กน้อย" ซึ่งหมายความว่าผู้กระทำผิดจำนวนมากสามารถใช้ AI ในทางที่ผิดได้อย่างสร้างสรรค์
ง็อก อันห์ (ตามรายงานของ FT)
ที่มา: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html
การแสดงความคิดเห็น (0)