ChatGPT'nin yeni görüntü oluşturma teknolojisinin makbuz sahteciliğinde yarattığı tehlikeler.

(CLO) ChatGPT, kısa süre önce GPT-4o modeline entegre edilmiş, üstün metin içeren görüntü oluşturma yeteneklerine sahip yeni bir görüntü oluşturma aracı piyasaya sürdü.

Ancak kullanıcılar, bu özelliğin restoran faturalarını sahtelemek için kötüye kullanılabileceğini kısa sürede keşfetti.

Yatırımcı Deedy Das, X adlı platformda San Francisco'daki bir et lokantasından alınmış sahte bir fişin fotoğrafını yayınlayarak, fotoğrafın GPT-4o kullanılarak oluşturulduğunu iddia etti.

Yatırımcı Deedy, görüntüyü X adlı sosyal medya platformunda paylaştı.

Birçok başka kullanıcı da bu efekti başarıyla yeniden oluşturdu ve gerçekçiliği artırmak için yiyecek ve içecek lekeleri bile ekledi.

Başka bir kullanıcı, üzerinde çok gerçekçi görünen yiyecek lekeleri olan bir fişin görüntüsünü paylaştı, ancak bu görüntü de ChatGPT tarafından oluşturulmuştu.

Örneğin, Fransa'daki bir kullanıcı yerel bir restoran zincirine ait sahte, buruşmuş bir fiş paylaştı.

Fotoğraf, Fransa'daki bir kullanıcı tarafından paylaşıldı.

Birçok kişi yeni özelliği test etti ve mağazalar için sahte fişler oluşturdu, ancak görüntülerde hala tutarsızlıklar mevcut; örneğin: Toplam tutarda nokta yerine virgül kullanılması; yanlış hesaplamalar (yapay zekanın temel hesaplamalardaki zayıflığı).

Ancak kötü niyetli kişiler, yazılım kullanarak basit düzenlemeler yaparak veya komutları (istemleri) değiştirerek bunu kolayca düzeltebilirler.

Sahte faturaların kolayca oluşturulabilmesi, var olmayan harcamalar için yapılan hileli geri ödemeler gibi önemli riskleri beraberinde getiriyor.

Bu soruna yanıt olarak OpenAI, yapay zeka tarafından oluşturulan tüm görüntülerin ChatGPT'den kaynaklandığını belirten meta veriler içerdiğini açıkladı. Şirket ayrıca, kullanıcılar politikalarını ihlal ettiğinde "harekete geçtiğini" ve gerçek dünyadan gelen geri bildirimlerden "sürekli olarak öğrendiğini" belirtti.

Sahte fatura oluşturulmasına izin verilmesiyle ilgili soruya yanıt veren OpenAI sözcüsü Taya Christianson, amacın "yaratıcı özgürlüğü en üst düzeye çıkarmak" olduğunu açıkladı ve sahte faturaların finansal eğitim , sanat veya reklam amaçlı kullanılabileceğini öne sürdü.

Yapay zekânın istismar edilmesi ilk kez olmuyor. Daha önce MidJourney ve DALL-E, sahte belge, kimlik kartı ve hatta para birimi görüntüleri oluşturmak için kullanılmıştı.

Cao Phong (TC, MSB'ye göre)

Kaynak: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html