อย่างไรก็ตาม ผู้ใช้ค้นพบอย่างรวดเร็วว่าฟีเจอร์นี้อาจถูกนำไปใช้ในทางที่ผิดเพื่อปลอมใบเสร็จร้านอาหารได้
นักลงทุน Deedy Das โพสต์ภาพใบเสร็จปลอมจากร้านสเต็กในซานฟรานซิสโกบน X โดยอ้างว่าภาพดังกล่าวสร้างขึ้นโดยใช้ GPT-4o
นักลงทุน Deedy แชร์ภาพดังกล่าวบนโซเชียลเน็ตเวิร์ก X
ผู้ใช้รายอื่นๆ จำนวนมากก็สร้างมันขึ้นมาใหม่ได้สำเร็จเช่นกัน โดยเพิ่มคราบอาหารและเครื่องดื่มเพื่อเพิ่มความสมจริง
ผู้ใช้รายอื่นได้แชร์รูปภาพใบเสร็จที่มีคราบอาหาร ซึ่งดูสมจริงมาก แต่ก็สร้างขึ้นโดย ChatGPT เช่นกัน
หรืออย่างเช่นผู้ใช้ในฝรั่งเศสที่โพสต์ใบเสร็จปลอมจากเครือร้านอาหารท้องถิ่นที่มีลักษณะยับยู่ยี่
รูปภาพที่แชร์โดยผู้ใช้ในฝรั่งเศส
หลายๆ คนได้ทดสอบฟีเจอร์ใหม่นี้แล้ว และยังสร้างใบเสร็จปลอมสำหรับร้านค้าด้วย แต่ภาพถ่ายยังมีจุดที่ไม่สมเหตุสมผล เช่น การใช้เครื่องหมายจุลภาคแทนจุดในยอดรวม การคำนวณที่ผิดพลาด (จุดอ่อนของ AI ในการคำนวณพื้นฐาน)
อย่างไรก็ตาม ผู้โจมตีเพียงแค่ทำการแก้ไขเล็กน้อยโดยใช้ซอฟต์แวร์หรือปรับแต่งพรอมต์คำสั่งเพื่อแก้ไขปัญหาเท่านั้น
ความสามารถในการสร้างใบแจ้งหนี้ปลอมได้อย่างง่ายดายเปิดโอกาสให้เกิดความเสี่ยงมากมาย เช่น การคืนเงินฉ้อโกงสำหรับค่าใช้จ่ายที่ไม่มีอยู่จริง
เพื่อตอบสนองต่อปัญหานี้ OpenAI ระบุว่ารูปภาพทั้งหมดที่สร้างโดย AI จะมีข้อมูลเมตาที่ระบุว่ารูปภาพนั้นมาจาก ChatGPT นอกจากนี้ บริษัทยัง “ดำเนินการ” เมื่อผู้ใช้ละเมิดนโยบาย และ “เรียนรู้อย่างต่อเนื่อง” จากผลตอบรับจากการใช้งานจริง
เมื่อถูกถามถึงการอนุญาตให้สร้างใบแจ้งหนี้ปลอม Taya Christianson โฆษกของ OpenAI อธิบายว่า เป้าหมายคือเพื่อ "เพิ่มเสรีภาพในการสร้างสรรค์ให้สูงสุด" และแนะนำว่าใบแจ้งหนี้ปลอมสามารถนำไปใช้เพื่อ การศึกษา ทางการเงิน ศิลปะ หรือเพื่อการโฆษณาได้
นี่ไม่ใช่ครั้งแรกที่ AI ถูกนำไปใช้ประโยชน์ ก่อนหน้านี้ MidJourney และ DALL-E ถูกใช้เพื่อสร้างภาพปลอมของเอกสาร บัตรประจำตัวประชาชน และแม้แต่เงินตรา
กาวฟอง (ตาม TC, MSB)
ที่มา: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html
การแสดงความคิดเห็น (0)