Bahaya teknologi penjanaan imej baharu ChatGPT dalam pemalsuan resit.

(CLO) ChatGPT baru-baru ini melancarkan alat penciptaan imej baharu yang disepadukan ke dalam model GPT-4o, dengan keupayaan penciptaan teks-dalam-imej yang unggul.

Walau bagaimanapun, pengguna dengan cepat mendapati bahawa ciri ini boleh disalahgunakan untuk memalsukan bil restoran.

Pelabur Deedy Das menyiarkan imej resit palsu dari sebuah restoran stik San Francisco di X, mendakwa foto itu dibuat menggunakan GPT-4o.

Pelabur Deedy berkongsi imej itu di platform media sosial X.

Ramai pengguna lain juga telah berjaya mencipta semula kesan tersebut, malah menambah kesan makanan dan minuman untuk meningkatkan realisme.

Seorang lagi pengguna berkongsi imej resit dengan kesan makanan yang kelihatan sangat realistik, tetapi turut dihasilkan oleh ChatGPT.

Atau, sebagai contoh, seorang pengguna di Perancis menyiarkan resit palsu yang renyuk daripada rangkaian restoran tempatan.

Gambar itu dikongsi oleh seorang pengguna di Perancis.

Ramai yang lain telah menguji ciri baharu ini dan turut mencipta resit palsu untuk kedai, tetapi imej tersebut masih mempunyai ketidakkonsistenan seperti: Koma dan bukannya noktah dalam jumlah keseluruhan; pengiraan yang salah (kelemahan AI dalam pengiraan asas).

Walau bagaimanapun, pelaku yang berniat jahat boleh membetulkannya dengan mudah dengan membuat suntingan mudah menggunakan perisian atau mengubah suai arahan (prompt).

Kemudahan invois palsu boleh dibuat membuka risiko yang ketara, seperti bayaran balik palsu untuk perbelanjaan yang tidak wujud.

Sebagai tindak balas kepada isu ini, OpenAI menyatakan bahawa semua imej yang dijana AI mengandungi metadata yang mengakui asal usulnya daripada ChatGPT. Syarikat itu juga "mengambil tindakan" apabila pengguna melanggar dasarnya dan "terus belajar" daripada maklum balas dunia sebenar.

Apabila ditanya tentang membenarkan penciptaan invois palsu, jurucakap OpenAI, Taya Christianson, menjelaskan bahawa matlamatnya adalah "memaksimumkan kebebasan kreatif" dan mencadangkan bahawa invois palsu boleh digunakan untuk tujuan pendidikan kewangan, seni atau pengiklanan.

Ini bukan kali pertama AI dieksploitasi. Sebelum ini, MidJourney dan DALL-E telah digunakan untuk mencipta imej palsu dokumen, kad pengenalan dan juga mata wang.

Cao Phong (mengikut TC, MSB)

Sumber: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html