Takut penipuan dengan kemampuan pembuatan foto realistis ChatGPT

ChatGPT "menggambar seperti foto"

Pada tanggal 26 Maret, komunitas pengguna AI (kecerdasan buatan) di seluruh dunia , termasuk di Vietnam, heboh ketika OpenAI resmi merilis Images in ChatGPT, yang berfokus pada kemampuan pembuatan gambar bagi pengguna model cerdas perusahaan tersebut. Sebelumnya, ChatGPT juga memiliki kemampuan untuk membuat gambar, tetapi terbatas dan harus melalui model teks-ke-gambar terkenal lainnya, DALL-E.

Kemampuan alat ini untuk mengubah teks menjadi gambar dan "menggabungkan gambar seperti Photoshop" langsung menarik perhatian. Banyak yang mengatakan kualitas gambar yang dihasilkan "luar biasa" dan sebagian besar menilai "unggul" dibandingkan model AI populer di pasaran.

ChatGPT membuat cangkir kopi realistis hanya dengan perintah sederhana

Menurut Gabriel Goh, ketua tim peneliti di OpenAI, peningkatan signifikan dalam kemampuan pembuatan gambar ChatGPT menggunakan model GPT-4o adalah "Binding"—istilah yang merujuk pada sejauh mana generator gambar AI mempertahankan hubungan antara atribut dan objek. Bapak Goh menegaskan bahwa GPT-4o dapat secara akurat menghubungkan atribut untuk 15-20 objek berbeda tanpa kebingungan, sehingga meningkatkan akurasi dan keandalan konten yang dihasilkan secara signifikan.

Tak hanya unggul dalam kemampuannya menciptakan gambar, Gambar di ChatGPT juga memecahkan kelemahan "fatal" alat AI penghasil gambar lainnya, yaitu menampilkan tulisan dan teks di dalam gambar. Faktanya, banyak gambar yang mengandung teks ditampilkan secara akurat, sehingga gambar lebih sulit dibedakan antara palsu dan asli.

Kelemahan alat ini adalah waktu yang dibutuhkan untuk menghasilkan gambar cukup lama, tetapi hal ini dianggap wajar karena penundaan yang terjadi disebabkan oleh gambar berkualitas baik, detail yang akurat, dan kesesuaian dengan deskripsi pengguna yang selalu membutuhkan kesabaran. Tim peneliti mengatakan masalah penundaan ini akan diperbaiki di masa mendatang.

Banyak kekhawatiran tentang kemampuan menggabungkan foto

Selain keseruan pengalaman awal yang dihadirkan ChatGPT dan OpenAI bagi pengguna, isu keamanan informasi, privasi, serta risiko eksploitasi kembali mengemuka. "Dalam waktu dekat, gambar yang Anda lihat daring belum tentu nyata," seorang pengguna Facebook di Vietnam mengungkapkan kekhawatirannya ketika ia dapat meminta ChatGPT untuk membuat gambar yang sama sekali tidak nyata tetapi terlihat senyata foto, misalnya, foto aktor dan mantan pegulat Dwayne Johnson (The Rock) yang mengiklankan merek permen karet, atau gambar kucing calico yang duduk di atas kompor yang tampak persis seperti foto.

Dengan perintah terperinci yang disediakan, pengguna dapat menciptakan hasil yang mengejutkan tanpa memerlukan pengetahuan mendalam tentang penggunaan alat pengeditan foto tradisional.

Banyak orang bahkan telah mencoba kemampuan "menelanjangi" alat baru ini. TN ( Hanoi ) mengatakan bahwa ia menggunakan foto model yang diambil dari internet untuk meminta ChatGPT berganti pakaian sesuai permintaan, dan hampir semua perintah ditanggapi dengan akurasi tinggi. "Namun, masih ada beberapa kali penolakan, terutama karena pelanggaran kebijakan sistem terkait pembuatan gambar berhak cipta atau konten yang terlalu seksi," ungkap TN.

Dalam pengujian Thanh Nien , ChatGPT menolak untuk membuat gambar yang berkaitan dengan karakter terkenal atau berhak cipta di dunia nyata, film, atau cerita. "Saya tidak dapat membuat gambar seperti yang diminta karena gambar referensi yang Anda kirim dengan jelas menampilkan karakter Doctor Strange - karakter berhak cipta Marvel, dan ini melanggar kebijakan konten saat ini," jawab sistem ketika diminta untuk membuat gambar Doctor Strange sedang duduk... minum es teh di Vietnam.

Jackie Shannon, kepala produk multimoda di ChatGPT, mengonfirmasi bahwa Gambar di ChatGPT memiliki perlindungan yang kuat terhadap konten Deepfake, pornografi, atau penipuan. Khususnya, gambar yang dihasilkan akan mengintegrasikan metadata standar C2PA untuk menandainya sebagai produk AI, tetapi memerlukan alat terpisah untuk memeriksanya.

Namun, masih banyak orang yang berhasil "melanggar hukum" dan menggunakan gambar orang terkenal untuk tujuan hiburan. Misalnya, gambar CEO Tim Cook memegang ponsel Samsung, bukan iPhone, atau gambar aktor Robert Downey Jr. sedang mengunyah permen sayur, atau gambar Cristiano Ronaldo berebut bola dengan Lionel Messi di sebuah gang kecil di Vietnam di depan banyak orang...

Sumber: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm