เอฟบีไอระบุ AI ถูกใช้เพื่อ 'การกรรโชก' และคุกคาม

จากคำเตือนที่เผยแพร่เมื่อสัปดาห์นี้ FBI ระบุว่าเมื่อไม่นานนี้พบว่ามีเหยื่อแบล็กเมล์เพิ่มมากขึ้น โดยเหยื่อเหล่านี้อ้างว่าตนเองตกเป็นเป้าหมายการใช้ AI ในการแก้ไขรูปภาพธรรมดาๆ จากโพสต์ออนไลน์ ข้อความส่วนตัว หรือ วิดีโอ แชท ให้เป็นภาพปลอม

เอฟบีไอเผยใครถูกใช้เพื่อรวบรวมและปั่นเงิน ภาพที่ 1 — ตำรวจสเปนเคยจับกุมโปรแกรมเมอร์ที่ใช้ AI สร้างภาพลามกอนาจารเด็กปลอม ภาพ: Daily Mail

“จากนั้นผู้ไม่ประสงค์ดีจะส่งภาพเหล่านี้ไปยังเหยื่อโดยตรงเพื่อแบล็กเมล์หรือคุกคามทางเพศ เมื่อเผยแพร่ออกไปแล้ว เหยื่ออาจเผชิญกับความท้าทายที่สำคัญในการป้องกันไม่ให้มีการแชร์เนื้อหาที่ถูกปรับแต่งต่อไป รวมถึงการลบเนื้อหาดังกล่าวออกจากอินเทอร์เน็ต” คำเตือนระบุ

สำนักงานฯ กล่าวว่าภาพดังกล่าวดูเหมือนจริงมาก และระบุว่าในบางกรณี เด็กๆ ก็ตกเป็นเป้าหมายด้วย

ในเดือนกุมภาพันธ์ ตำรวจในสเปนได้จับกุมโปรแกรมเมอร์คอมพิวเตอร์ผู้ใช้ AI สร้างภาพการล่วงละเมิดเด็กอันน่าสยดสยอง ซึ่งเชื่อว่าจะเป็นหนึ่งในการจับกุมครั้งแรกๆ ในลักษณะนี้

FBI ไม่ได้ให้รายละเอียดเกี่ยวกับโปรแกรม AI ที่ใช้สร้างภาพทางเพศ แต่ระบุว่าความก้าวหน้าทางเทคโนโลยีช่วย “ปรับปรุงคุณภาพ การปรับแต่ง และการเข้าถึงการสร้างเนื้อหาที่ขับเคลื่อนด้วย AI อย่างต่อเนื่อง”

การแก้ไขรูปภาพปกติเพื่อสร้างภาพอีโรติกนั้นมีมานานพอๆ กับการถ่ายภาพ แต่ในปัจจุบันเครื่องมือ AI โอเพนซอร์สได้รับความนิยมเพิ่มขึ้นอย่างมาก ทำให้กระบวนการนี้ง่ายขึ้นกว่าเดิมมาก

รูปถ่ายหรือวิดีโอปลอมมักจะแยกแยะไม่ออกจากเวอร์ชันในชีวิตจริง และในช่วงไม่กี่ปีที่ผ่านมามีเว็บไซต์และเครือข่ายโซเชียลหลายแห่งที่อุทิศให้กับการสร้างและแลกเปลี่ยนภาพทางเพศที่ขับเคลื่อนด้วย AI เกิดขึ้น

สิ่งนี้ถือเป็นหนึ่งในความเสี่ยงหลายประการที่ปัญญาประดิษฐ์อาจก่อให้เกิดขึ้นต่อสังคม ตามที่ผู้เชี่ยวชาญได้ออกมาแสดงความกังวลและเตือนเมื่อเร็วๆ นี้

Hoang Anh (ตามเดลี่เมล์, รอยเตอร์)

แหล่งที่มา