Kekhawatiran tentang penipuan yang muncul dari kemampuan ChatGPT untuk membuat gambar yang realistis.

ChatGPT "menggambar seperti foto"

Pada tanggal 26 Maret, komunitas pengguna AI global dan Vietnam heboh ketika OpenAI secara resmi merilis Images in ChatGPT, sebuah alat yang berfokus pada pembuatan gambar, untuk pengguna model cerdasnya. Sebelumnya, ChatGPT juga memiliki kemampuan pembuatan gambar, tetapi kemampuan ini terbatas dan bergantung pada model teks-ke-gambar terkenal lainnya yang disebut DALL-E.

Kemampuan alat ini untuk mengubah teks menjadi gambar dan melakukan "penggabungan gambar berkualitas Photoshop" dengan cepat menarik perhatian. Banyak pengguna melaporkan kualitas gambar hasil akhirnya sebagai "menakjubkan," dengan sebagian besar menilai kualitasnya "lebih unggul" daripada model AI populer lainnya di pasaran.

ChatGPT membuat gambar cangkir kopi yang realistis hanya dengan perintah sederhana.

Menurut Gabriel Goh, kepala penelitian di OpenAI, peningkatan signifikan dalam kemampuan pembuatan gambar ChatGPT menggunakan model GPT-4o adalah "Binding"—istilah yang merujuk pada sejauh mana generator gambar AI mempertahankan hubungan antara atribut dan objek. Goh menegaskan bahwa GPT-4o dapat secara akurat menghubungkan atribut untuk 15-20 objek berbeda tanpa kesalahan, secara signifikan meningkatkan akurasi dan keandalan konten yang dihasilkan.

Tidak hanya unggul dalam pembuatan gambar, fitur Images in ChatGPT juga mengatasi kelemahan penting pada alat pembuatan gambar AI lainnya: rendering teks di dalam gambar. Bahkan, banyak gambar yang berisi teks dirender dengan akurat, sehingga semakin sulit untuk membedakan antara gambar asli dan gambar palsu.

Kelemahan alat ini adalah waktu pembuatan gambarnya yang relatif lama, tetapi hal ini dianggap wajar karena keterlambatan tersebut disebabkan oleh fakta bahwa gambar berkualitas tinggi dengan detail akurat dan sesuai dengan deskripsi pengguna selalu membutuhkan kesabaran. Tim peneliti menyatakan bahwa masalah keterlambatan ini akan diperbaiki di masa mendatang.

Banyak kekhawatiran telah muncul mengenai kemungkinan manipulasi gambar.

Di luar kenikmatan awal yang ditawarkan ChatGPT dan OpenAI kepada pengguna, kekhawatiran tentang keamanan informasi, privasi, dan risiko eksploitasi sekali lagi menjadi sorotan. "Segera, gambar yang Anda lihat online mungkin tidak selalu nyata," ungkap seorang pengguna Facebook di Vietnam, karena ia dapat meminta ChatGPT untuk membuat gambar yang sepenuhnya dibuat-buat yang tampak realistis seperti foto, misalnya, gambar aktor dan mantan pegulat Dwayne Johnson (The Rock) yang mengiklankan merek permen karet, atau kucing belang yang duduk di atas kompor yang tampak persis seperti foto.

Dengan perintah-perintah terperinci yang diberikan, pengguna dapat menciptakan hasil yang mengejutkan tanpa memerlukan pengetahuan mendalam tentang alat pengeditan foto tradisional.

Faktanya, banyak orang bahkan telah mencoba fitur "melepas pakaian" dari alat baru tersebut. TN ( Hanoi ) mengatakan dia menggunakan foto model dari internet untuk meminta ChatGPT mengganti pakaiannya sesuai permintaan, dan hampir semua permintaan dipenuhi dengan akurasi tinggi. "Namun, ada beberapa kali permintaan ditolak, terutama karena pelanggaran kebijakan sistem terkait pembuatan gambar berhak cipta atau konten yang terlalu sugestif," kata TN.

Dalam pengujian yang dilakukan oleh surat kabar Thanh Nien , ChatGPT menolak untuk membuat gambar yang berkaitan dengan karakter terkenal atau berhak cipta di dunia nyata atau dalam film dan komik. "Saya tidak dapat membuat gambar seperti yang diminta karena gambar referensi yang Anda kirimkan jelas menunjukkan Doctor Strange – karakter berhak cipta milik Marvel – dan ini melanggar kebijakan konten kami saat ini," jawab sistem tersebut ketika diminta untuk membuat gambar Doctor Strange sedang duduk... minum es teh di Vietnam.

Jackie Shannon, kepala produk multimodal di ChatGPT, menegaskan bahwa Gambar di ChatGPT menawarkan perlindungan yang kuat terhadap deepfake, pornografi, atau konten palsu. Yang perlu diperhatikan, gambar yang dihasilkan menggabungkan metadata C2PA standar untuk mengidentifikasinya sebagai produk AI, tetapi memerlukan alat terpisah untuk verifikasi.

Namun, banyak orang masih berhasil "mengakali aturan" dan menggunakan gambar selebriti untuk tujuan hiburan. Misalnya, gambar CEO Tim Cook memegang ponsel Samsung alih-alih iPhone, atau gambar aktor Robert Downey Jr. mengunyah permen sayuran, atau serangkaian lukisan Cristiano Ronaldo dan Lionel Messi berebut bola di gang kecil di Vietnam di depan banyak penonton...

Sumber: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm