ChatGPT'nin gerçekçi fotoğraf oluşturma yeteneğiyle dolandırıcılık korkusu

ChatGPT "fotoğraf gibi çizer"

26 Mart'ta, dünya genelindeki ve Vietnam'daki AI (yapay zeka) kullanıcı topluluğu, OpenAI'nin şirketin akıllı modelinin kullanıcıları için görüntü oluşturma yeteneklerine odaklanan ChatGPT'deki Görüntüler'i resmen yayınlamasıyla heyecanlandı. Daha önce ChatGPT de görüntü oluşturma yeteneğine sahipti, ancak sınırlıydı ve bir başka ünlü metinden görüntüye modeli olan DALL-E'yi kullanmak zorundaydı.

Aracın metni çizimlere dönüştürme ve "Photoshop gibi görselleri birleştirme" yeteneği hızla dikkat çekti. Birçok kişi çıktı görüntü kalitesinin "harika" olduğunu söyledi ve çoğu kişi, piyasadaki popüler yapay zeka modellerine kıyasla "üstün" olarak değerlendirdi.

ChatGPT, basit bir komutla gerçekçi kahve fincanları yaratıyor

OpenAI araştırma ekibi lideri Gabriel Goh'a göre, ChatGPT'nin GPT-4o modelini kullanarak görüntü oluşturma yeteneklerindeki önemli gelişme, yapay zeka görüntü oluşturucusunun öznitelikler ve nesneler arasındaki bağlantıyı ne ölçüde koruduğunu ifade eden bir terim olan "Bağlama"dır. Goh, GPT-4o'nun 15-20 farklı nesnenin özniteliklerini karışıklık yaratmadan doğru bir şekilde bağlayabildiğini ve böylece oluşturulan içeriğin doğruluğunu ve güvenilirliğini önemli ölçüde artırdığını belirtti.

ChatGPT'deki Görüntüler, yalnızca görüntü oluşturma yeteneğiyle olağanüstü olmakla kalmıyor, aynı zamanda diğer görüntü oluşturma yapay zeka araçlarının "ölümcül" zayıflığı olan, görüntünün içinde yazı ve metin görüntüleme sorununu da çözüyor. Aslında, metin içeren birçok görüntü doğru bir şekilde görüntüleniyor ve bu da görüntünün sahte ile gerçek arasında ayrım yapmayı zorlaştırıyor.

Bu aracın dezavantajı, görüntü oluşturmanın uzun sürmesidir, ancak bu durum makul kabul edilir çünkü kaliteli görüntüler, doğru ayrıntılar ve kullanıcının açıklamasına uygun sonuçlar elde etmek her zaman sabır gerektirir. Araştırma ekibi, gecikme sorununun gelecekte iyileştirileceğini belirtti.

Fotoğrafları birleştirme yeteneği hakkında birçok endişe var

ChatGPT ve OpenAI'nin kullanıcılara sunduğu ilk deneyimin eğlenceli olmasının yanı sıra, bilgi güvenliği, gizlilik ve istismar riski konuları da bir kez daha ön plana çıkıyor. Vietnam'daki bir Facebook kullanıcısı, ChatGPT'den tamamen gerçek dışı ama fotoğraflar kadar gerçekçi görünen görseller oluşturmasını isteyebileceğinden endişe duyduğunu dile getirdi. Örneğin, aktör ve eski güreşçi Dwayne Johnson'ın (The Rock) bir sakız markasını reklam eden fotoğrafı veya ocakta oturan ve tıpkı bir fotoğraf gibi görünen bir kedinin fotoğrafı gibi.

Kullanıcılar, geleneksel fotoğraf düzenleme araçlarının kullanımı konusunda derinlemesine bilgiye ihtiyaç duymadan, sunulan detaylı komutlar sayesinde şaşırtıcı sonuçlar yaratabiliyor.

Birçok kişi yeni aracın "soyma" özelliğini bile denedi. TN ( Hanoi ), internetten alınmış bir model fotoğrafını kullanarak ChatGPT'den istediği gibi kıyafet değiştirmesini istediğini ve neredeyse tüm komutların yüksek doğrulukla karşılandığını söyledi. TN, "Ancak, çoğunlukla sistemin telif hakkıyla korunan görseller oluşturma veya aşırı seksi içerik bulundurma politikasını ihlal etmeleri nedeniyle birkaç kez reddedildi," diye paylaştı.

Thanh Nien'in testlerinde, ChatGPT gerçek dünyadaki veya film ve hikayelerdeki ünlü veya telif hakkıyla korunan karakterlerle ilgili görseller oluşturmayı reddetti. Sistem, Vietnam'da buzlu çay içerken oturan Doctor Strange'in bir görselini oluşturması istendiğinde, "İstediğiniz görseli oluşturamıyorum çünkü gönderdiğiniz referans görselde Marvel telif hakkıyla korunan bir karakter olan Doctor Strange açıkça görülüyor ve bu, mevcut içerik politikasını ihlal ediyor," yanıtını verdi.

ChatGPT'de çok modlu ürünlerden sorumlu Jackie Shannon, ChatGPT'deki görsellerin Deepfake, pornografik veya sahte içeriklere karşı güçlü bir korumaya sahip olduğunu doğruladı. Oluşturulan görsellerin yapay zeka ürünü olarak işaretlenmesi için C2PA standart meta verileri entegre edileceği, ancak kontrol için ayrı araçlara ihtiyaç duyulacağı da özellikle belirtiliyor.

Ancak, hâlâ "yasayı başarıyla esneten" ve ünlü kişilerin resimlerini eğlence amaçlı olarak kullanan birçok kişi var. Örneğin, CEO Tim Cook'un iPhone yerine Samsung telefon tuttuğu bir resim, aktör Robert Downey Jr.'ın sebze şekerlemesi çiğnediği bir resim veya Cristiano Ronaldo'nun Vietnam'da küçük bir sokakta Lionel Messi ile top kapmak için birçok insanın önünde mücadele ettiği bir resim...

Kaynak: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm