Bahaya teknologi pembuatan gambar baru ChatGPT dalam memalsukan tanda terima.

(CLO) ChatGPT baru-baru ini meluncurkan alat pembuatan gambar baru yang terintegrasi ke dalam model GPT-4o, dengan kemampuan pembuatan teks dalam gambar yang unggul.

Namun, pengguna dengan cepat menemukan bahwa fitur ini dapat disalahgunakan untuk memalsukan tagihan restoran.

Investor Deedy Das memposting gambar struk palsu dari sebuah restoran steak di San Francisco di X, dan mengklaim foto tersebut dibuat menggunakan GPT-4o.

Investor Deedy membagikan gambar tersebut di platform media sosial X.

Banyak pengguna lain juga berhasil menciptakan kembali efek tersebut, bahkan menambahkan noda makanan dan minuman untuk meningkatkan realismenya.

Pengguna lain membagikan gambar struk dengan noda makanan yang terlihat sangat realistis, tetapi juga dibuat oleh ChatGPT.

Atau, misalnya, seorang pengguna di Prancis mengunggah struk palsu yang kusut dari sebuah jaringan restoran lokal.

Foto tersebut dibagikan oleh seorang pengguna di Prancis.

Banyak pihak lain telah menguji fitur baru ini dan juga membuat struk palsu untuk toko, tetapi gambar-gambar tersebut masih memiliki ketidaksesuaian seperti: Koma вместо titik pada jumlah total; perhitungan yang salah (kelemahan AI dalam perhitungan dasar).

Namun, pelaku jahat dapat dengan mudah memperbaikinya dengan melakukan pengeditan sederhana menggunakan perangkat lunak atau memodifikasi perintah (prompt).

Kemudahan pembuatan faktur palsu membuka risiko signifikan, seperti pengembalian dana palsu untuk pengeluaran yang tidak ada.

Menanggapi masalah ini, OpenAI menyatakan bahwa semua gambar yang dihasilkan AI berisi metadata yang mengakui asal-usulnya dari ChatGPT. Perusahaan tersebut juga "mengambil tindakan" ketika pengguna melanggar kebijakannya dan "terus belajar" dari umpan balik dunia nyata.

Ketika ditanya tentang mengizinkan pembuatan faktur palsu, juru bicara OpenAI, Taya Christianson, menjelaskan bahwa tujuannya adalah "memaksimalkan kebebasan kreatif," dan menyarankan bahwa faktur palsu dapat digunakan untuk pendidikan keuangan, seni, atau tujuan periklanan.

Ini bukan kali pertama AI dieksploitasi. Sebelumnya, MidJourney dan DALL-E digunakan untuk membuat gambar palsu dokumen, kartu identitas, dan bahkan mata uang.

Cao Phong (menurut TC, MSB)

Sumber: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html