อันตรายของเทคโนโลยีสร้างภาพแบบใหม่ของ ChatGPT ในการปลอมแปลงใบเสร็จรับเงิน

(CLO) ChatGPT เพิ่งเปิดตัวเครื่องมือสร้างภาพใหม่ที่ผสานรวมเข้ากับโมเดล GPT-4o ซึ่งมีคุณสมบัติการสร้างข้อความในภาพที่เหนือกว่า

Công Luận•01/04/2025

อย่างไรก็ตาม ผู้ใช้ค้นพบอย่างรวดเร็วว่าฟีเจอร์นี้อาจถูกนำไปใช้ในทางที่ผิดเพื่อปลอมแปลงใบเสร็จรับเงินของร้านอาหารได้

นักลงทุน Deedy Das โพสต์ภาพใบเสร็จปลอมจากร้านสเต็กแห่งหนึ่งในซานฟรานซิสโกบนเว็บไซต์ X โดยอ้างว่าภาพดังกล่าวสร้างขึ้นโดยใช้ GPT-4o

กระบวนการสร้างภาพใหม่ของ GPT ในกระบวนการสร้างภาพที่ 1 ขึ้นใหม่ — นักลงทุน Deedy ได้แชร์ภาพดังกล่าวบนแพลตฟอร์มโซเชียลมีเดีย X

ผู้ใช้รายอื่น ๆ อีกมากมายก็สามารถสร้างเอฟเฟ็กต์นี้ได้สำเร็จเช่นกัน โดยบางคนถึงกับเพิ่มคราบอาหารและเครื่องดื่มเข้าไปเพื่อให้ดูสมจริงยิ่งขึ้น

กระบวนการสร้างภาพใหม่ของ GPT ในกระบวนการสร้างภาพที่ 2 ขึ้นใหม่ — ผู้ใช้รายอื่นได้แชร์ภาพใบเสร็จที่มีคราบอาหารซึ่งดูสมจริงมาก แต่ก็เป็นภาพที่สร้างขึ้นโดย ChatGPT เช่นกัน

หรือตัวอย่างเช่น ผู้ใช้รายหนึ่งในฝรั่งเศสได้โพสต์ใบเสร็จปลอมที่ยับยู่ยี่จากร้านอาหารท้องถิ่นแห่งหนึ่ง

กระบวนการสร้างภาพใหม่ของ GPT ในกระบวนการสร้างภาพที่ 3 ขึ้นใหม่ — ภาพดังกล่าวถูกแชร์โดยผู้ใช้รายหนึ่งในประเทศฝรั่งเศส

ผู้คนจำนวนมากได้ทดสอบฟีเจอร์ใหม่นี้และสร้างใบเสร็จปลอมสำหรับร้านค้าต่างๆ แต่ภาพเหล่านั้นยังคงมีความไม่สอดคล้องกัน เช่น การใช้เครื่องหมายจุลภาคแทนจุดในยอดรวม การคำนวณที่ไม่ถูกต้อง (ซึ่งเป็นจุดอ่อนของ AI ในการคำนวณขั้นพื้นฐาน)

อย่างไรก็ตาม ผู้ไม่ประสงค์ดีสามารถแก้ไขปัญหานี้ได้ง่ายๆ โดยการแก้ไขเล็กน้อยโดยใช้ซอฟต์แวร์หรือแก้ไขคำสั่ง (ข้อความแจ้งเตือน)

ความง่ายดายในการสร้างใบแจ้งหนี้ปลอมก่อให้เกิดความเสี่ยงอย่างมาก เช่น การขอคืนเงินโดยมิชอบสำหรับค่าใช้จ่ายที่ไม่มีอยู่จริง

เพื่อแก้ไขปัญหานี้ OpenAI ระบุว่าภาพที่สร้างโดย AI ทั้งหมดมีเมตาเดต้าที่ระบุแหล่งที่มาจาก ChatGPT นอกจากนี้ บริษัทฯ ยัง "ดำเนินการ" เมื่อผู้ใช้ละเมิดนโยบาย และ "เรียนรู้อย่างต่อเนื่อง" จากข้อเสนอแนะในโลกแห่งความเป็นจริง

เมื่อถูกถามเกี่ยวกับการอนุญาตให้สร้างใบแจ้งหนี้ปลอม โฆษกของ OpenAI อย่าง Taya Christianson อธิบายว่าเป้าหมายคือ "การเพิ่มอิสรภาพในการสร้างสรรค์ให้สูงสุด" และแนะนำว่าใบแจ้งหนี้ปลอมสามารถนำไปใช้เพื่อ การให้ความรู้ ทางการเงิน ศิลปะ หรือการโฆษณาได้

นี่ไม่ใช่ครั้งแรกที่ปัญญาประดิษฐ์ถูกนำไปใช้ในทางที่ผิด ก่อนหน้านี้ MidJourney และ DALL-E เคยถูกใช้เพื่อสร้างภาพปลอมของเอกสาร บัตรประจำตัว และแม้กระทั่งธนบัตร

เฉาฟง (อ้างอิงจาก TC, MSB)

ที่มา: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html