ChatGPT'nin gerçekçi fotoğraf oluşturma yeteneğiyle dolandırıcılık korkusu

ChatGPT "fotoğraf gibi çizer"

26 Mart'ta, dünya genelindeki ve Vietnam'daki AI (yapay zeka) kullanıcı topluluğu, şirketin akıllı modelinin kullanıcıları için görüntü oluşturma yeteneklerine odaklanan OpenAI'nin ChatGPT'deki Görüntüler özelliğini resmen yayınlamasıyla heyecanlandı. Daha önce ChatGPT de görüntü oluşturma yeteneğine sahipti, ancak sınırlıydı ve bir başka ünlü metinden görüntüye modeli olan DALL-E'yi kullanmak zorundaydı.

Aracın metni çizimlere dönüştürme ve "Photoshop gibi görüntüleri birleştirme" yeteneği hızla dikkat çekti. Birçok kişi çıktı görüntü kalitesinin "harika" olduğunu söyledi ve çoğu kişi, piyasadaki popüler yapay zeka modellerine kıyasla "üstün" olarak değerlendirdi.

ChatGPT, basit bir komutla gerçekçi kahve fincanları yaratıyor

OpenAI araştırma ekibi lideri Gabriel Goh'a göre, ChatGPT'nin GPT-4o modelini kullanarak görüntü oluşturma yeteneklerindeki önemli gelişme, yapay zeka görüntü oluşturucusunun öznitelikler ve nesneler arasındaki bağlantıyı ne ölçüde sürdürdüğünü ifade eden bir terim olan "Bağlama"dır. Goh, GPT-4o'nun 15-20 farklı nesnenin özniteliklerini karışıklık yaratmadan doğru bir şekilde bağlayabildiğini ve böylece oluşturulan içeriğin doğruluğunu ve güvenilirliğini önemli ölçüde artırdığını belirtti.

ChatGPT'deki Görüntüler, yalnızca görüntü oluşturma yeteneğiyle olağanüstü olmakla kalmıyor, aynı zamanda diğer görüntü oluşturma yapay zeka araçlarının "ölümcül" zayıflığı olan, görüntünün içinde yazı ve metin görüntüleme sorununu da çözüyor. Aslında, metin içeren birçok görüntü doğru bir şekilde görüntüleniyor ve bu da sahte ile gerçek arasındaki farkı ayırt etmeyi daha da zorlaştırıyor.

Bu aracın dezavantajı, görüntü oluşturmanın uzun sürmesidir, ancak bu durum makul kabul edilir çünkü kaliteli görüntüler, doğru ayrıntılar ve kullanıcının açıklamasına uygun sonuçlar elde etmek her zaman sabır gerektirir. Araştırma ekibi, gecikme sorununun gelecekte iyileştirileceğini belirtti.

Fotoğrafları birleştirme yeteneği hakkında birçok endişe var

ChatGPT ve OpenAI'nin kullanıcılara sunduğu ilk deneyimin eğlenceli olmasının yanı sıra, bilgi güvenliği, gizlilik ve istismar riski konuları da bir kez daha ön plana çıkıyor. Vietnam'daki bir Facebook kullanıcısı, ChatGPT'den fotoğraflar kadar gerçek görünen, tamamen gerçek dışı görseller oluşturmasını isteyebileceği için endişelendiğini dile getirdi. Örneğin, aktör ve eski güreşçi Dwayne Johnson'ın (The Rock) bir sakız markasını reklam ettiği bir fotoğraf veya ocakta oturan ve tıpkı bir fotoğrafa benzeyen bir kedinin fotoğrafı gibi.

Kullanıcılar, geleneksel fotoğraf düzenleme araçlarının kullanımı konusunda derinlemesine bilgiye ihtiyaç duymadan, sunulan detaylı komutlar sayesinde şaşırtıcı sonuçlar yaratabiliyor.

Birçok kişi yeni aracın "soyma" özelliğini bile denedi. TN ( Hanoi ), internetten alınmış bir model fotoğrafını kullanarak ChatGPT'den istediği kıyafetleri değiştirmesini istediğini ve neredeyse tüm siparişlerin yüksek doğrulukla karşılandığını söyledi. TN, "Ancak, çoğunlukla sistemin telif hakkıyla korunan görseller oluşturma veya aşırı seksi içerik bulundurma politikasını ihlal ettiği için bazı retler de oldu," diye paylaştı.

Thanh Nien'in testlerinde, ChatGPT gerçek dünyadaki veya film ve hikayelerdeki ünlü veya telif hakkıyla korunan karakterlerle ilgili görseller oluşturmayı reddetti. Sistem, Vietnam'da buzlu çay içerken oturan Doctor Strange'in bir görselini oluşturması istendiğinde, "İstediğiniz görseli oluşturamıyorum çünkü gönderdiğiniz referans görselde Marvel'ın telif hakkıyla korunan bir karakteri olan Doctor Strange açıkça görülüyor ve bu, mevcut içerik politikasını ihlal ediyor," yanıtını verdi.

ChatGPT'de çok modlu ürünlerden sorumlu Jackie Shannon, ChatGPT'deki görsellerin Deepfake, pornografik veya sahte içeriklere karşı güçlü bir korumaya sahip olduğunu doğruladı. Oluşturulan görsellerin yapay zeka ürünü olarak işaretlenmesi için C2PA standart meta verileri entegre edileceği, ancak kontrol için ayrı araçlara ihtiyaç duyulacağı da özellikle belirtiliyor.

Ancak, hâlâ "yasayı başarıyla esneten" ve ünlü kişilerin görüntülerini eğlence amaçlı kullanan birçok kişi var. Örneğin, CEO Tim Cook'un iPhone yerine Samsung telefon tuttuğu görüntü, aktör Robert Downey Jr.'ın sebze şekerlemesi çiğnediği görüntü veya Cristiano Ronaldo'nun Vietnam'da küçük bir sokakta Lionel Messi ile top oynarken çekilmiş bir fotoğrafı...

Kaynak: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm