Microsoft ได้ระบุเครือข่ายอาชญากรทางไซเบอร์ระดับนานาชาติที่สามารถหลีกเลี่ยงการป้องกันของบริการ AI เชิงสร้างสรรค์เพื่อสร้างเนื้อหาที่เป็นอันตราย รวมถึงรูปถ่ายคนดังที่ละเอียดอ่อนและสื่อลามกอนาจารอื่นๆ

แฮกเกอร์รวบรวมข้อมูลประจำตัวบริการจากแหล่งสาธารณะและใช้เพื่อเข้าถึงบริการ AI เชิงสร้างสรรค์ รวมถึง Azure OpenAI ของ Microsoft

จากนั้นพวกเขาจึงปรับเปลี่ยนความสามารถของผลิตภัณฑ์ AI และขายสิทธิ์การเข้าถึงให้กับกลุ่มอาชญากรอื่น ๆ พร้อมสั่งสอนพวกเขาถึงวิธีการสร้างเนื้อหาที่เป็นอันตราย

แฮกเกอร์ d3sign/โมเมนต์ RF
Microsoft เปิดเผยต่อสาธารณะว่า 4 แฮกเกอร์กำลังขายเครื่องมือเพื่อ "เอาชนะ" บริการ AI ภาพ: d3sign/Moment RF

ตามที่ Microsoft ระบุ บุคคลเหล่านี้คือ: Arian Yadegarnia (นามแฝงว่า Fiz) จากอิหร่าน, Alan Krysiak (Drago) จากสหราชอาณาจักร, Ricky Yuen (cg-dot) จากฮ่องกง (จีน) และ Phat Phung Tan (Asakuri) จากเวียดนาม

ทั้งสี่คนถูกกล่าวหาว่าเป็นสมาชิกเครือข่ายอาชญากรรมไซเบอร์ Storm-2139 ส่วนอีกสองคนมาจากสหรัฐอเมริกา แต่ไมโครซอฟท์ไม่ได้เปิดเผยตัวตนเพื่อความปลอดภัยในการสืบสวน

Microsoft ระบุว่า Storm-2139 แบ่งออกเป็นสามกลุ่มหลัก ได้แก่ ผู้สร้าง ผู้ขาย และผู้ใช้ปลายทาง ผู้สร้างสร้างเครื่องมือผิดกฎหมายเพื่อละเมิดบริการ AI เชิงสร้างสรรค์ จากนั้นผู้ขายจะแก้ไขและนำเสนอบริการดังกล่าวให้กับผู้ใช้ปลายทางในราคาและบริการที่แตกต่างกัน และสุดท้าย ผู้ใช้ใช้เครื่องมือเหล่านี้เพื่อสร้างเนื้อหาที่เป็นอันตราย ซึ่งมักจะเกี่ยวข้องกับดาราหนังโป๊และรูปภาพ

Microsoft เปิดเผยข้อมูลดังกล่าวเนื่องจากมีความกังวลเพิ่มขึ้นเกี่ยวกับการใช้ AI เชิงสร้างสรรค์ในทางที่ผิดเพื่อสร้างภาพปลอมของทั้งคนดังและบุคคลทั่วไป รวมไปถึงสื่อลามกเด็ก

บริษัทต่างๆ เช่น Microsoft และ OpenAI ห้ามการปฏิบัติดังกล่าวและใช้มาตรการทางเทคนิคเพื่อป้องกัน แต่กลุ่มแฮกเกอร์เช่นเดียวกับกลุ่มที่กล่าวมาข้างต้นยังคงหาวิธี "หลีกเลี่ยงกฎ"

ตามที่ Steven Masada ผู้ช่วยที่ปรึกษาทั่วไปของหน่วยอาชญากรรมดิจิทัล (DCU) ของ Microsoft กล่าว พวกเขาตระหนักดีถึงผลกระทบที่ร้ายแรงและยาวนานที่ภาพที่ละเมิดมีต่อเหยื่อ

บริษัทมีความมุ่งมั่นที่จะปกป้องผู้ใช้ด้วยการฝังมาตรการความปลอดภัย AI ลงในแพลตฟอร์มและปกป้องบริการจากเนื้อหาที่ผิดกฎหมายและเป็นอันตราย

ในเดือนธันวาคม พ.ศ. 2567 DCU ได้ยื่นฟ้องต่อศาลในเขตตะวันออกของรัฐเวอร์จิเนีย (สหรัฐอเมริกา) ต่อบุคคลนิรนาม 10 รายที่มีส่วนร่วมในกิจกรรมที่ละเมิดกฎหมายของสหรัฐอเมริกาและนโยบายของ Microsoft

ศาลได้ออกคำสั่งคุ้มครองชั่วคราวและคำสั่งคุ้มครองชั่วคราว อนุญาตให้ Microsoft ยึดเว็บไซต์ที่ใช้ในกิจกรรมทางอาญา ซึ่งจะส่งผลกระทบต่อความสามารถในการดำเนินงานของกลุ่ม

ที่น่าสังเกตคือ หลังจากการกระทำนี้ สมาชิกบางคนที่ต้องสงสัยว่าเป็นสมาชิก Storm-2139 ได้ส่งอีเมลถึงที่ปรึกษาของ Microsoft และโยนความผิดให้กันและกัน

Microsoft เขียนไว้ในบล็อกโพสต์เมื่อวันที่ 27 กุมภาพันธ์ว่า "การตอบสนองนี้เน้นย้ำถึงผลกระทบจากการดำเนินการทางกฎหมายของ Microsoft และแสดงให้เห็นว่ามาตรการต่างๆ สามารถหยุดยั้งเครือข่ายอาชญากรทางไซเบอร์ได้อย่างมีประสิทธิภาพ โดยการยึดโครงสร้างพื้นฐานและสร้างผลยับยั้งที่แข็งแกร่งต่อสมาชิก"

(ตามรายงานของ Microsoft และ Bloomberg)