เครื่องสร้างภาพใหม่ของ ChatGPT คุกคามการปลอมแปลงใบเสร็จ

อย่างไรก็ตาม ผู้ใช้ค้นพบอย่างรวดเร็วว่าคุณสมบัติพิเศษนี้อาจถูกนำไปใช้ในการปลอมแปลงใบเสร็จรับเงินจากร้านอาหารได้

นักลงทุน Deedy Das โพสต์ภาพใบเสร็จปลอมจากร้านสเต็กในซานฟรานซิสโกบน X โดยอ้างว่าภาพดังกล่าวสร้างขึ้นโดยใช้ GPT-4o

นักลงทุน Deedy แชร์ภาพนี้บนโซเชียลเน็ตเวิร์ก X

ผู้ใช้รายอื่นๆ จำนวนมากก็สร้างมันขึ้นมาใหม่ได้สำเร็จเช่นกัน โดยยังเพิ่มคราบอาหารและเครื่องดื่มเพื่อเพิ่มความสมจริงอีกด้วย

ผู้ใช้รายอื่นได้แชร์รูปภาพใบเสร็จที่มีคราบอาหาร ซึ่งดูสมจริงมาก แต่สร้างขึ้นโดย ChatGPT เช่นกัน

หรือเหมือนกับผู้ใช้ในฝรั่งเศสที่โพสต์ใบเสร็จปลอมจากร้านอาหารเครือท้องถิ่นที่มีลักษณะยับยู่ยี่

ภาพถ่ายที่แชร์โดยผู้ใช้ในฝรั่งเศส

หลายๆ คนได้ทดสอบฟีเจอร์ใหม่นี้แล้ว และยังสร้างใบเสร็จปลอมสำหรับร้านค้าอีกด้วย แต่ภาพถ่ายยังคงมีความไม่สอดคล้องกัน เช่น ใช้เครื่องหมายจุลภาคแทนจุดในยอดรวม การคำนวณผิดพลาด (จุดอ่อนของ AI ในการคำนวณขั้นพื้นฐาน)

อย่างไรก็ตาม ผู้โจมตีจำเป็นต้องทำการแก้ไขเล็กน้อยโดยใช้ซอฟต์แวร์หรือปรับแต่งพรอมต์คำสั่งเพื่อแก้ไขปัญหาเท่านั้น

ความสามารถในการสร้างใบแจ้งหนี้ปลอมได้อย่างง่ายดายเปิดโอกาสให้เกิดความเสี่ยงมากมาย เช่น การคืนเงินโดยฉ้อโกงสำหรับค่าใช้จ่ายที่ไม่มีอยู่จริง

เพื่อตอบสนองต่อปัญหานี้ OpenAI กล่าวว่ารูปภาพที่สร้างโดย AI ทั้งหมดมีข้อมูลเมตา (แอตทริบิวต์) ที่บันทึกแหล่งที่มาของรูปภาพจาก ChatGPT นอกจากนี้ บริษัทยัง “ดำเนินการ” เมื่อผู้ใช้ละเมิดนโยบายและ “เรียนรู้อย่างต่อเนื่อง” จากผลตอบรับในโลกแห่งความเป็นจริง

เมื่อถูกถามถึงการอนุญาตให้สร้างใบแจ้งหนี้ปลอม Taya Christianson โฆษกของ OpenAI อธิบายว่า เป้าหมายคือเพื่อ "เพิ่มอิสระในการสร้างสรรค์ให้สูงสุด" และแนะนำว่าใบแจ้งหนี้ปลอมสามารถนำไปใช้เพื่อการศึกษาทางการเงิน ศิลปะ หรือการโฆษณาได้

นี่ไม่ใช่ครั้งแรกที่มีการนำ AI มาใช้อย่างผิดวิธี ก่อนหน้านี้ MidJourney และ DALL-E ถูกใช้เพื่อสร้างภาพปลอมของเอกสาร บัตรประจำตัว และแม้แต่สกุลเงิน

กาวฟอง (ตาม TC, MSB)

ที่มา: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html