ภาพ AI ปลอมทำงานอย่างไร?
ทุกวันนี้ AI มีอยู่ทุกที่ แม้กระทั่งในสงคราม แอปพลิเคชันปัญญาประดิษฐ์ได้รับการพัฒนาอย่างมากในปีนี้ จนแทบทุกคนสามารถใช้เครื่องสร้าง AI เพื่อสร้างภาพที่ดูสมจริงได้ อย่างน้อยก็ในแวบแรก
ภาพปลอมที่สร้างโดย AI ของสงครามในฉนวนกาซา
ผู้ใช้เพียงแค่ให้เครื่องมือเช่น Midjourney หรือ Dall-E ให้คำแนะนำบางอย่าง รวมทั้งข้อมูลจำเพาะและข้อมูลเพื่อดำเนินการนี้ จากนั้นเครื่องมือ AI จะแปลงข้อความหรือแม้แต่เสียงเป็นรูปภาพ
กระบวนการสร้างภาพนี้อาศัยสิ่งที่เรียกว่าการเรียนรู้ของเครื่องจักร ตัวอย่างเช่น หากผู้สร้างขอให้แสดงภาพชายวัย 70 ปีกำลังขี่จักรยาน พวกเขาจะค้นหาฐานข้อมูลเพื่อจับคู่คำศัพท์กับภาพ
อัลกอริทึม AI จะสร้างภาพของนักปั่นจักรยานสูงอายุโดยอิงจากข้อมูลที่มีอยู่ ด้วยข้อมูลอินพุตและการอัปเดตทางเทคนิคที่มากขึ้น เครื่องมือเหล่านี้ได้รับการปรับปรุงอย่างมีนัยสำคัญและกำลังเรียนรู้ตลอดเวลา
ทั้งหมดนี้ถูกนำไปใช้กับภาพที่เกี่ยวข้องกับความขัดแย้งในตะวันออกกลาง ในความขัดแย้งที่ “เต็มไปด้วยอารมณ์ความรู้สึก” ข้อมูลที่ผิดพลาด รวมถึงข้อมูลที่แพร่กระจายผ่านภาพ AI จะส่งผลกระทบอย่างมาก Hany Farid ผู้เชี่ยวชาญด้าน AI กล่าว
ฟาริด ศาสตราจารย์ด้านการวิเคราะห์ดิจิทัลที่มหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ กล่าวว่าการต่อสู้ที่ดุเดือดถือเป็นแหล่งเพาะพันธุ์ที่สมบูรณ์แบบสำหรับการสร้างและเผยแพร่เนื้อหาปลอม ตลอดจนการกระตุ้นอารมณ์
ภาพเอไอของสงครามอิสราเอล-ฮามาส
รูปภาพและ วิดีโอ ที่สร้างขึ้นด้วยความช่วยเหลือของปัญญาประดิษฐ์ได้กระตุ้นให้เกิดการเผยแพร่ข้อมูลเท็จที่เกี่ยวข้องกับสงครามในยูเครน และยังคงเกิดขึ้นอย่างต่อเนื่องในสงครามอิสราเอล-ฮามาส
ผู้เชี่ยวชาญระบุว่า ภาพ AI ที่แพร่หลายบนโซเชียลมีเดียเกี่ยวกับสงครามมักแบ่งออกเป็น 2 ประเภท ประเภทหนึ่งเน้นไปที่ความทุกข์ทรมานของมนุษย์และกระตุ้นให้เกิดความเห็นอกเห็นใจ อีกประเภทหนึ่งคือ AI ปลอมที่เน้นย้ำเหตุการณ์เกินจริง ทำให้เกิดความขัดแย้งและความรุนแรงเพิ่มมากขึ้น
ภาพปลอมที่สร้างโดย AI ของพ่อและลูกใต้ซากปรักหักพังในฉนวนกาซา
ตัวอย่างเช่น หมวดหมู่แรกได้แก่รูปถ่ายด้านบนของพ่อและลูกทั้งห้าคนยืนอยู่หน้ากองซากปรักหักพัง ภาพนี้ถูกแชร์หลายครั้งบน X (เดิมคือ Twitter) และ Instagram และมีผู้เข้าชมหลายแสนครั้ง
ชุมชนได้แจ้งว่ารูปภาพนี้เป็นของปลอมอย่างน้อยก็ใน X โดยสามารถระบุได้จากข้อผิดพลาดและความไม่สอดคล้องกันต่างๆ ที่พบได้ทั่วไปในรูปภาพ AI (ดูภาพด้านบน)
ความผิดปกติที่คล้ายคลึงกันยังสามารถเห็นได้ในภาพ AI ปลอมที่กลายเป็นไวรัลทาง X ด้านล่าง ซึ่งมีเจตนาแสดงให้เห็นครอบครัวชาวปาเลสไตน์กำลังกินอาหารร่วมกันบนซากปรักหักพัง
ภาพปลอมของพรรคปาเลสไตน์ที่สร้างโดย AI
ในขณะเดียวกัน รูปภาพอีกภาพหนึ่งซึ่งแสดงให้เห็นกองทหารโบกธงอิสราเอลขณะเดินผ่านชุมชนที่เต็มไปด้วยบ้านเรือนที่ถูกระเบิดนั้น จัดอยู่ในประเภทที่สอง ซึ่งออกแบบมาเพื่อปลุกปั่นความเกลียดชังและความรุนแรง
ภาพ AI เหล่านี้มาจากไหน?
ภาพความขัดแย้งที่สร้างโดย AI ส่วนใหญ่มักถูกโพสต์บนแพลตฟอร์มโซเชียลมีเดีย แต่ยังสามารถพบได้บนแพลตฟอร์มและองค์กรอื่นๆ อีกหลายแห่ง รวมถึงเว็บไซต์ข่าวบางแห่งด้วย
บริษัทซอฟต์แวร์ Adobe สร้างความฮือฮาด้วยการเพิ่มรูปภาพที่สร้างด้วย AI ลงในกลุ่มรูปภาพสต็อกภายในสิ้นปี 2022 โดยรูปภาพเหล่านี้จะได้รับการติดป้ายกำกับตามนั้นในฐานข้อมูล
ปัจจุบัน Adobe ยังเสนอขายภาพ AI ของสงครามในตะวันออกกลางอีกด้วย ไม่ว่าจะเป็นภาพการระเบิด ผู้คนกำลังประท้วง หรือกลุ่มควันด้านหลังมัสยิดอัลอักซอ
Adobe นำเสนอภาพที่สร้างด้วย AI ของการสู้รบในฉนวนกาซา
นักวิจารณ์พบว่าเรื่องนี้สร้างความวิตก เนื่องจากเว็บไซต์บางแห่งยังคงใช้รูปภาพเหล่านี้ต่อไปโดยไม่ระบุว่าเป็นรูปภาพที่สร้างโดย AI ตัวอย่างเช่น รูปภาพที่แสดงบนหน้า "Newsbreak" ไม่มีการระบุว่าสร้างขึ้นโดยใช้ AI
แม้แต่ European Parliamentary Research Service ซึ่งเป็นหน่วยงาน ด้านวิทยาศาสตร์ ของรัฐสภายุโรป ยังได้แสดงเอกสารออนไลน์เกี่ยวกับความขัดแย้งในตะวันออกกลางโดยใช้ภาพ AI จากฐานข้อมูลของ Adobe โดยไม่ได้ระบุว่าเป็นภาพที่สร้างโดย AI
European Digital Media Observatory เรียกร้องให้นักข่าวและผู้เชี่ยวชาญด้านสื่อระมัดระวังเป็นพิเศษเมื่อใช้ภาพ AI และขอแนะนำไม่ให้ใช้ โดยเฉพาะอย่างยิ่งเมื่อทำรายงานเหตุการณ์จริง เช่น สงครามในฉนวนกาซา
ภาพ AI อันตรายขนาดไหน?
เนื้อหาและภาพจาก AI ที่เป็นไวรัลนั้นทำให้ผู้ใช้รู้สึกไม่สบายใจเกี่ยวกับทุกสิ่งที่พบเจอทางออนไลน์ “หากเราอยู่ในโลกที่ภาพ เสียง และวิดีโอ สามารถถูกดัดแปลงได้ ทุกสิ่งก็จะกลายเป็นสิ่งที่น่าสงสัย” ฟาริด นักวิจัยจาก UC Berkeley อธิบาย “ดังนั้น คุณจะสูญเสียความไว้วางใจในทุกสิ่ง รวมถึงความจริงด้วย”
นั่นคือสิ่งที่เกิดขึ้นในกรณีต่อไปนี้: ภาพของสิ่งที่กล่าวกันว่าเป็นศพที่ถูกเผาของทารกชาวอิสราเอลถูกแชร์บนโซเชียลมีเดียโดยนายกรัฐมนตรีอิสราเอล เบนจามิน เนทันยาฮู และนักการเมืองอีกหลายคน
แจ็กสัน ฮิงเคิล ผู้มีอิทธิพลต่อต้านอิสราเอล อ้างในเวลาต่อมาว่าภาพดังกล่าวถูกสร้างขึ้นโดยใช้ปัญญาประดิษฐ์ คำกล่าวอ้างของฮิงเคิลมีผู้เข้าชมมากกว่า 20 ล้านครั้งบนโซเชียลมีเดีย และทำให้เกิดการถกเถียงอย่างดุเดือดบนแพลตฟอร์ม
ในที่สุด องค์กรและเครื่องมือตรวจสอบหลายแห่งก็ประกาศว่าภาพดังกล่าวเป็นของจริง และคำกล่าวอ้างของฮิงเคิลก็เป็นเท็จ อย่างไรก็ตาม เป็นที่ชัดเจนว่าไม่มีเครื่องมือใดที่จะช่วยให้ผู้ใช้ฟื้นคืนความไว้วางใจที่สูญเสียไปได้อย่างง่ายดาย!
ฮวงไห่ (ตาม DW)
แหล่งที่มา
การแสดงความคิดเห็น (0)