Takut penipuan dengan keupayaan penciptaan foto ChatGPT yang realistik

ChatGPT "melukis seperti foto"

Pada 26 Mac, komuniti pengguna AI (kecerdasan buatan) di seluruh dunia dan juga di Vietnam heboh apabila OpenAI secara rasmi mengeluarkan Imej dalam ChatGPT yang memfokuskan pada keupayaan penciptaan imej untuk pengguna model pintar syarikat itu. Sebelum ini, ChatGPT juga mempunyai keupayaan untuk mencipta imej tetapi terhad dan perlu melalui satu lagi model teks-ke-imej yang terkenal, DALL-E.

Keupayaan alat untuk menukar teks menjadi lukisan dan "menggabungkan imej seperti Photoshop" dengan cepat menarik perhatian. Ramai yang berkata kualiti imej keluaran adalah "luar biasa" dan kebanyakannya menilai ia sebagai "unggul" berbanding model AI yang popular di pasaran.

ChatGPT mencipta cawan kopi yang realistik dengan hanya arahan mudah

Menurut Gabriel Goh, ketua pasukan penyelidik di OpenAI, peningkatan ketara dalam keupayaan penjanaan imej ChatGPT menggunakan model GPT-4o ialah "Mengikat" - istilah untuk tahap di mana penjana imej AI mengekalkan hubungan antara atribut dan objek. Encik Goh menegaskan bahawa GPT-4o boleh memautkan atribut dengan tepat untuk 15 - 20 objek berbeza tanpa kekeliruan, dengan ketara meningkatkan ketepatan dan kebolehpercayaan kandungan yang dijana.

Bukan sahaja cemerlang dalam keupayaan penciptaan imejnya, Imej dalam ChatGPT juga menyelesaikan kelemahan "maut" alat AI penjana imej lain, yang memaparkan tulisan dan teks di dalam imej. Malah, banyak imej yang mengandungi teks dipaparkan dengan tepat, menjadikan imej itu lebih sukar untuk membezakan antara palsu dan sebenar.

Kelemahan alat ini ialah ia mengambil masa yang lama untuk menjana imej, tetapi ia dianggap munasabah kerana kelewatan dibuat kerana imej berkualiti baik, perincian yang tepat dan pemadanan penerangan pengguna sentiasa memerlukan kesabaran. Pasukan penyelidik berkata isu kelewatan akan diperbaiki pada masa hadapan.

Banyak kebimbangan mengenai keupayaan untuk menggabungkan foto

Selain keseronokan dalam pengalaman awal yang dibawa oleh ChatGPT dan OpenAI kepada pengguna, isu keselamatan maklumat, privasi serta risiko eksploitasi sekali lagi diketengahkan. "Dalam masa terdekat, imej yang anda lihat dalam talian mungkin tidak semestinya nyata," seorang pengguna Facebook di Vietnam meluahkan kebimbangan apabila dia boleh meminta ChatGPT untuk mencipta imej yang tidak benar sepenuhnya yang kelihatan seperti foto, contohnya, foto pelakon dan bekas ahli gusti Dwayne Johnson (The Rock) yang mengiklankan jenama gula-gula getah, atau gambar kucing belacu duduk di atas dapur yang kelihatan betul-betul seperti gambar.

Dengan arahan terperinci yang disediakan, pengguna boleh mencipta hasil yang mengejutkan tanpa memerlukan pengetahuan mendalam tentang menggunakan alat penyuntingan foto tradisional.

Ramai orang telah mencuba kebolehan "pelucutan" alat baharu itu. TN ( Hanoi ) berkata, dia menggunakan gambar model yang diambil dari internet untuk meminta ChatGPT menukar pakaian seperti yang diminta dan hampir semua tempahan dipenuhi dengan ketepatan yang tinggi. "Walau bagaimanapun, masih terdapat beberapa penolakan, terutamanya disebabkan oleh pelanggaran dasar sistem untuk mencipta imej berhak cipta atau mempunyai kandungan yang terlalu seksi," kongsi TN.

Dalam ujian Thanh Nien , ChatGPT enggan mencipta imej yang berkaitan dengan watak terkenal atau berhak cipta di dunia nyata atau dalam filem dan cerita. "Saya tidak boleh mencipta imej seperti yang diminta kerana imej rujukan yang anda hantar jelas menunjukkan watak Doctor Strange - watak berhak cipta Marvel dan ini melanggar dasar kandungan semasa," jawab sistem itu apabila diminta mencipta imej Doctor Strange sedang duduk... minum teh ais di Vietnam.

Jackie Shannon, ketua produk multimodal di ChatGPT, mengesahkan bahawa Imej dalam ChatGPT mempunyai perlindungan yang kukuh terhadap Deepfake, pornografi atau kandungan penipuan. Terutamanya, imej yang dijana akan menyepadukan metadata standard C2PA untuk menandakannya sebagai produk AI, tetapi memerlukan alat yang berasingan untuk diperiksa.

Namun, masih ramai yang berjaya "membengkokkan undang-undang" dan menggunakan imej orang terkenal untuk tujuan hiburan. Contohnya, imej CEO Tim Cook yang memegang telefon Samsung dan bukannya iPhone, atau imej pelakon Robert Downey Jr. sedang mengunyah gula-gula sayuran, atau gambar Cristiano Ronaldo bermain bola dengan Lionel Messi di sebuah lorong kecil di Vietnam di hadapan ramai orang...

Sumber: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm