Kebimbangan tentang penipuan yang berpunca daripada keupayaan ChatGPT untuk mencipta imej yang realistik.

ChatGPT "melukis seperti gambar"

Pada 26 Mac, komuniti pengguna AI global dan Vietnam telah kecoh apabila OpenAI secara rasminya melancarkan Imej dalam ChatGPT, sebuah alat yang tertumpu pada penciptaan imej, untuk pengguna model pintarnya. Sebelum ini, ChatGPT juga mempunyai keupayaan penciptaan imej, tetapi keupayaan ini terhad dan bergantung pada model teks-ke-imej lain yang terkenal yang dipanggil DALL-E.

Keupayaan alat ini untuk mengubah teks menjadi lukisan dan melakukan "penggabungan imej berkualiti Photoshop" dengan cepat menarik perhatian. Ramai pengguna melaporkan kualiti imej output sebagai "menakjubkan", dengan kebanyakannya menilainya sebagai "unggul" berbanding model AI popular lain di pasaran.

ChatGPT mencipta imej cawan kopi yang realistik hanya dengan arahan mudah.

Menurut Gabriel Goh, ketua penyelidikan di OpenAI, peningkatan ketara dalam keupayaan penjanaan imej ChatGPT menggunakan model GPT-4o ialah "Pengikatan"—istilah yang merujuk kepada sejauh mana penjana imej AI mengekalkan hubungan antara atribut dan objek. Goh menegaskan bahawa GPT-4o boleh menghubungkan atribut dengan tepat untuk 15-20 objek berbeza tanpa ralat, sekali gus meningkatkan ketepatan dan kebolehpercayaan kandungan yang dijana dengan ketara.

Imej dalam ChatGPT bukan sahaja cemerlang dalam penciptaan imej, malah ia juga menangani kelemahan kritikal dalam alat penciptaan imej AI yang lain: memaparkan teks dalam imej. Malah, banyak imej yang mengandungi teks dipaparkan dengan tepat, menjadikannya semakin sukar untuk membezakan antara imej sebenar dan palsu.

Kelemahan alat ini ialah masa penghasilan imej yang agak lama, tetapi ini dianggap munasabah kerana kelewatan tersebut disebabkan oleh hakikat bahawa imej berkualiti tinggi dengan butiran yang tepat dan sepadan dengan penerangan pengguna sentiasa memerlukan kesabaran. Pasukan penyelidik menyatakan bahawa isu kelewatan akan diperbaiki pada masa hadapan.

Banyak kebimbangan telah ditimbulkan tentang kemungkinan manipulasi imej.

Di luar keseronokan awal yang ditawarkan oleh ChatGPT dan OpenAI kepada pengguna, kebimbangan mengenai keselamatan maklumat, privasi dan risiko eksploitasi sekali lagi menjadi tumpuan. "Tidak lama lagi, imej yang anda lihat dalam talian mungkin tidak semestinya nyata," seorang pengguna Facebook di Vietnam meluahkan kebimbangannya, kerana dia mungkin meminta ChatGPT untuk mencipta imej yang direka-reka sepenuhnya yang kelihatan serealistik gambar, contohnya, gambar pelakon dan bekas ahli gusti Dwayne Johnson (The Rock) yang mengiklankan jenama gula-gula getah, atau kucing belacu yang duduk di atas dapur yang kelihatan sama seperti gambar.

Dengan arahan terperinci yang disediakan, pengguna boleh mencipta hasil yang mengejutkan tanpa memerlukan pengetahuan mendalam tentang alat penyuntingan foto tradisional.

Malah, ramai orang telah mencuba ciri "menanggalkan pakaian" alat baharu itu. TN ( Hanoi ) berkata dia menggunakan gambar model dari internet untuk meminta ChatGPT menukar pakaiannya seperti yang diminta, dan hampir semua permintaan dipenuhi dengan ketepatan yang tinggi. "Walau bagaimanapun, terdapat beberapa kali permintaan ditolak, terutamanya disebabkan oleh pelanggaran dasar sistem mengenai penciptaan imej berhak cipta atau kandungan yang terlalu tidak senonoh," kongsi TN.

Dalam ujian yang dijalankan oleh akhbar Thanh Nien , ChatGPT enggan mencipta imej yang berkaitan dengan watak-watak terkenal atau berhak cipta di dunia nyata atau dalam filem dan komik. "Saya tidak boleh mencipta imej seperti yang diminta kerana imej rujukan yang anda hantar dengan jelas menunjukkan Doctor Strange – watak berhak cipta Marvel – dan ini melanggar dasar kandungan semasa kami," sistem itu menjawab apabila diminta untuk mencipta imej Doctor Strange duduk... minum teh ais di Vietnam.

Jackie Shannon, ketua produk multimodal di ChatGPT, menegaskan bahawa Imej dalam ChatGPT menawarkan perlindungan yang kukuh terhadap kandungan deepfake, pornografi atau penipuan. Terutamanya, imej yang dihasilkan menggabungkan metadata C2PA standard untuk mengenal pasti mereka sebagai produk AI, tetapi memerlukan alat berasingan untuk pengesahan.

Walau bagaimanapun, ramai orang masih berjaya "mengelak peraturan" dan menggunakan imej selebriti untuk tujuan hiburan. Contohnya, gambar CEO Tim Cook memegang telefon Samsung dan bukannya iPhone, atau imej pelakon Robert Downey Jr. mengunyah gula-gula sayur, atau satu siri lukisan Cristiano Ronaldo dan Lionel Messi bersaing untuk bola di sebuah lorong kecil di Vietnam di hadapan ramai penonton...

Sumber: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm