เครื่องมือ AI ใหม่ของออสเตรเลียต่อสู้กับภาพ Deepfake ที่เป็นอันตราย

ออสเตรเลียพัฒนา Silverer ซึ่งเป็นเครื่องมือ AI ที่ช่วยป้องกัน deepfake และปกป้องข้อมูลส่วนบุคคล ซึ่งอยู่ในระยะการทดสอบเพื่อต่อสู้กับอาชญากรรมทางไซเบอร์

ตามที่ผู้สื่อข่าว VNA ในซิดนีย์รายงาน มหาวิทยาลัย Monash และสำนักงานตำรวจสหพันธรัฐออสเตรเลีย (AFP) กำลังร่วมมือกันพัฒนาเครื่องมือปัญญาประดิษฐ์ (AI) ใหม่ที่ล้ำสมัยเพื่อชะลอและป้องกันอาชญากรไม่ให้สร้างภาพ deepfake ที่เป็นอันตรายและสื่อล่วงละเมิดเด็กโดยใช้ AI

เครื่องมือนี้มีชื่อว่า Silverer เป็นผลงานของ AI Lab for Law Enforcement and Community Safety (AiLECS) ซึ่งเป็นความร่วมมือด้านการวิจัยเชิงกลยุทธ์ระหว่าง AFP และมหาวิทยาลัย Monash ที่นำ AI มาประยุกต์ใช้กับความท้าทายที่ซับซ้อนในการบังคับใช้กฎหมายและความมั่นคง ปัจจุบันเครื่องมือนี้อยู่ในระยะนำร่อง และกำลังได้รับการพัฒนาภายใต้การนำของ Elizabeth Perry นักศึกษาปริญญาเอกจากมหาวิทยาลัย Monash

มหาวิทยาลัยโมนาชระบุว่า โครงการนี้ใช้เทคนิคที่เรียกว่า "Data Poisoning" เป็นเทคนิคหลักในเครื่องมือใหม่นี้ เทคนิคนี้เกี่ยวข้องกับการเปลี่ยนแปลงแหล่งข้อมูลออนไลน์อย่างละเอียดอ่อน ทำให้โมเดล AI และ Machine Learning (ML) สร้าง จัดการ และนำรูปภาพหรือ วิดีโอ ไปใช้ในทางที่ผิดได้ยากขึ้นอย่างมาก

เนื่องจากเครื่องมือ AI ต้องใช้ข้อมูลต้นทางจำนวนมาก การวางยาพิษข้อมูลจึงทำให้โมเดลสร้างผลลัพธ์ที่ไม่แม่นยำ บิดเบือน หรือเสียหาย ทำให้ตรวจจับรูปภาพหรือวิดีโอปลอมที่สร้างโดยอาชญากรได้ง่ายขึ้น

เพอร์รี นักศึกษาปริญญาเอก อธิบายว่าผู้ใช้สามารถใช้ Silverer เพื่อแก้ไขรูปภาพก่อนอัปโหลดไปยังโซเชียลมีเดียหรืออินเทอร์เน็ต วิธีนี้จะเปลี่ยนพิกเซลเพื่อหลอกโมเดล AI ทำให้ผลลัพธ์ออกมาผิดเพี้ยน เต็มไปด้วย "ความบิดเบี้ยว" หรือไม่สามารถจดจำได้อย่างสิ้นเชิง

รองศาสตราจารย์แคมป์เบลล์ วิลสัน ผู้อำนวยการร่วมของ AiLECS และผู้เชี่ยวชาญด้านนิติวิทยาศาสตร์ดิจิทัล กล่าวว่า การสร้างภาพปลอมและภาพอันตรายโดยใช้เทคโนโลยีโอเพ่นซอร์สกำลังกลายเป็นปัญหาที่ร้ายแรงมากขึ้นเนื่องจากใช้งานง่าย

AFP ได้บันทึกข้อมูลการเพิ่มขึ้นของสื่อล่วงละเมิดเด็กที่สร้างโดย AI เนื่องจากอาชญากรใช้ประโยชน์จากเทคโนโลยีดังกล่าวในการผลิตและแบ่งปันสื่อลามกอนาจารปลอมจำนวนมากทางออนไลน์

มหาวิทยาลัยโมนาชกล่าวว่าเป้าหมายโดยรวมของโครงการ Silverer คือการพัฒนาเทคโนโลยีที่ใช้งานง่ายสำหรับชาวออสเตรเลียที่ต้องการปกป้องข้อมูลส่วนบุคคลบนโซเชียลมีเดีย ปัจจุบันเครื่องมือเวอร์ชันนำร่องกำลังอยู่ระหว่างการพิจารณาใช้งานภายใน AFP

(TTXVN/เวียดนาม+)

ที่มา: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp