Resimlerden videolara ve yapay zeka şarkılarına: Sosyal ağlardaki yapay zeka içeriklerinin 'kasırgasına' dikkat edin

Yapay zeka (YZ), satışlardan hayır kurumu dolandırıcılığına kadar çevrimiçi ticari faaliyetlerde kullanılıyor ve bu durum, düzenleyicileri ve işletmeleri yapay içerik çağında riskleri belirlemek ve kontrol altına almak için hızla çözümler bulmaya zorluyor.

Yapay zeka tarafından düzenlenip eklenen giderek daha fazla sayıda görüntü ve video, izlenme sayısını artırmak amacıyla sosyal ağlarda paylaşılıyor - Fotoğraf: DUC THIEN

Geçmişte sahte bir fotoğraf oluşturmak için normal kullanıcıların Photoshop uzmanları tutması gerekirken, bugün yapay zeka sayesinde 5 dakikadan kısa bir sürede ve bazı temel becerilerle her yerde sahte fotoğraflar ortaya çıkabiliyor.

Yapay zeka, inanması zor gerçek görüntüler, videolar, şarkılar oluşturduğunda...

Her gün düzenli olarak Facebook'ta gezinen iletişim personeli Bayan Hoan My (HCMC), yapay zeka araçlarının müdahalesiyle kullanıcılar tarafından paylaşılan içeriklerin giderek arttığını söyledi.

"Arkadaşlarım veya grup üyelerim tarafından paylaşılan o kadar gerçekçi fotoğraflar var ki, yapay zeka kullanılıp kullanılmadığını söylemeseler anlayamam. Animasyonlardan, hayali yapımlara, kısa filmlere veya gerçek hayatta meydana gelen bir olayla ilgili videolara kadar giderek daha fazla video yapay zeka araçlarıyla oluşturuluyor, ancak ben bunu bilemem," diye paylaştı Bayan My.

Sadece görseller ve videolar değil, sosyal medya platformu YouTube'da bile "yapay zeka şarkıcılar" tarafından seslendirilen veya bestelenen birçok şarkı yer alıyor. Birçok kullanıcı yeni deneyimden heyecan duyuyor ve bunu sosyal ağlarda arkadaşlarıyla paylaşmak için yarışıyor.

"Anons edilmediği sürece yapay zekalı bir şarkıcı olup olmadığını söyleyemem. Yapay zeka içerikleri Vietnam'ın siber aleminde giderek yaygınlaşıyor. Benim gibi sıradan kullanıcılar muhtemelen yakında hangi içeriğin gerçek insanlardan, hangi içeriğin yapay zekadan veya yapay zeka müdahalesinden kaynaklandığını bilemeyecek," dedi Khanh Ha (HCMC).

Son dönemde Vietnam'daki birçok sosyal paylaşım platformu, engelli bireylerin ürünlerini sattığı videoları ve canlı yayınları yayınlayarak, çevrimiçi topluluğu daha sempatik ve paylaşımcı hale getirdi.

Ancak daha sonra, yapay zekanın normal insanları engelli bireylere dönüştürmek için kullanıldığı birçok vaka çevrimiçi topluluk tarafından ifşa edildi. Bu hilenin amacı, izleyicilerin şefkatinden yararlanarak ürün satmak veya dolandırıcılık faaliyetlerinde bulunmaktır.

Birçok teknoloji uzmanı, son zamanlarda sosyal ağlarda engelli, hasta veya dezavantajlı kişilerin fotoğraflarını kullanarak sempati toplamak için satış videoları yayınlayan hesapların sayısının arttığını söylüyor. Ancak gerçek şu ki, bu içeriklerin çoğu yapay zeka araçlarıyla oluşturuluyor veya düzenleniyor ve kâr veya dolandırıcılık amacıyla sıradan insanları engelli bireylere dönüştürüyor.

Dünyanın önde gelen biyometrik kimlik doğrulama teknolojisi sağlayıcısı iProov'un Asya- Pasifik bölgesinden sorumlu Başkan Yardımcısı Milko Radotic, Tuoi Tre ile yaptığı paylaşımda şu uyarıda bulundu: "Araştırmalarımız, katılımcıların %99,9'unun deepfake'leri tanıyamadığını gösteriyor. Günümüzün gelişmiş tespit araçları bile birçok zorlukla karşı karşıya."

Dijital kullanıcılar için direnci artırın

Uygulamalı Araştırma ve İnsan Kaynakları Geliştirme Enstitüsü AIOV Müdür Yardımcısı, LovinBot AI Şirketi Kurucusu ve CEO'su Bay Dang Huu Son, Google'ın Nano Banana, Veo 3'ü; ByteDance'in Seedream 4'ü ve ondan önce OpenAI'nin GPT Image'ı piyasaya sürmesinden bu yana AI pazarının son derece hareketli olduğunu ve bunun birçok sonucu da beraberinde getirdiğini söyledi.

Bay Son, "Teknoloji hiçbir zaman bugünkü kadar erişilebilir olmamıştı. Bunların hepsi, orijinal fotoğrafa kıyasla neredeyse %90, hatta %99 oranında "yüzleri kopyalayabilen" son derece güçlü yapay zeka modelleri," diye yorumladı.

Geçmişte sahte bir fotoğraf oluşturmak için normal kullanıcıların Photoshop uzmanları tutması gerekirken, bugün yapay zeka sayesinde 5 dakikadan kısa bir sürede, bazı temel becerilerle, bir dizi sahte fotoğraf, kes-yapıştır yapılmış, haber benzeri efektler eklenmiş sahte bir video baş döndürücü bir hızla yayılabiliyor.

"Sahte haberler, yüksek yoğunlukta ve kolay erişimle defalarca tekrarlanır, bu nedenle her gün bu haberlerle karşılaşan çok sayıda insan bunun doğru olduğuna inanır. Bu nedenle, yukarıdaki sorunları sınırlamak için çözümlere ihtiyaç vardır," diye belirtti Bay Son.

Gianty Vietnam Şirketi Teknoloji Direktörü Trinh Nguyen Thien Phuoc'a göre, yapay zeka tarafından üretilen içeriği ayırt edebilmek için üç katmana ihtiyaç vardır: (1) kullanıcı doğrulama becerileri (altın kurallarla birlikte); (2) İçerik Kimlik Bilgileri (C2PA), filigran tanımlama işaretleri (SynthID, AudioSeal) ve deepfake dedektörü gibi teknik araçlar; (3) platformlar, ağ operatörleri, bankalar gibi ilgili taraflar arasındaki koordinasyon süreci...

Özellikle altın kuralın 30-60 saniye içinde çok hızlı bir şekilde yapılması gerekiyor. Bunlar arasında; garip bağlantılara tıklamamak ve doğrulamak için resmi uygulamaya/web sitesine gitmek; eylemi zorlayan anahtar kelimelerle (OTP/para transferi/acil) karşılaştığınızda hemen durmak yer alıyor.

Aynı zamanda kullanıcılar inanmadan önce iki bağımsız kaynaktan doğrulamalı; tarihi, saati ve bağlamı kontrol etmeli (yeni gibi görünen eski haberler); kendiniz bulduğunuz resmi numarayı geri aramalı, başkalarının verdiği numarayı kullanmamalı; resim ve videolarla kullanıcılar ilgili sonuçlara geriye dönük arama yapabilir...

Birçok uzman, yapay zekanın yarattığı sahte içerik dalgasıyla başa çıkmanın en temel çözümünün kamuoyunda farkındalık yaratmak olduğuna inanıyor. Sadece teknik önlemlere odaklanmak yerine, insanların bilgi edinme alışkanlıklarını değiştirmelerine yardımcı olmak için eğitim programları, yarışmalar düzenlemek veya gerçek yaşam durumlarını simüle etmek gerekiyor.

Gençler, özellikle de öğrenciler için, ünlüler veya KOL'lerle çevrimiçi yarışmalar ve medya kampanyalarını birleştirmek, doğal bir cazibe yaratabilir ve sahte haberleri ve videoları tespit etme becerilerinde ustalaşırken öğrenmelerine ve deneyimlemelerine yardımcı olabilir. Bu arada, özellikle kırsal kesimdeki yaşlılar, resimli broşürler, eğitici videolar veya kültür merkezlerinde ve topluluk etkinliklerinde gösterimler gibi daha tanıdık ve sezgisel biçimlere ihtiyaç duyuyor.

"Her grup için uygun bir yaklaşım, kısa vadeli faaliyetlerle sınırlı kalmak yerine, sağlam ve uzun vadeli bir farkındalık temeli oluşturmaya yardımcı olacaktır. Örneğin, bazı birimler, kullanıcıların internette veya sosyal ağlarda gezinirken haberleri doğrulamasını desteklemek için Chrome tarayıcısına yüklenebilen eklentiler geliştirdi...", diye paylaştı Bay Dang Huu Son.

Sahte AI'yı tespit etmek için AI kullanımı

Honor telefon şirketi, yeni piyasaya sürdüğü telefon serisine Yapay Zeka Deepfake Algılama özelliğini entegre etti. Bu özellik, görüntüleri ve sesleri 3 saniye içinde analiz ederek Messenger, Zalo, Viber veya Google Meet gibi uygulamalarda sahte mesajlar konusunda uyarıda bulunabiliyor ve kullanıcıları yüksek teknoloji dolandırıcılıklarından koruyan bir "dijital kalkan" görevi görüyor.

MoMo, daha önce Eylül 2025'te kullanıcıların gerçek olduklarını, doğru kimliğe sahip olduklarını ve işlem sırasında mevcut olduklarını doğrulamaya yardımcı olmak için Dinamik Canlılık teknolojisini kullanmak üzere iProov ile iş birliğini duyurmuştu. Bu sayede deepfake, sahte videolar veya görseller kullanılarak yapılan dolandırıcılıkların önüne geçilebiliyor.

Finans gibi yüksek riskli sektörlerde bu düzeydeki güvenlik, dolandırıcılığı önlemek, yetkisiz erişimi engellemek ve kullanıcıların platforma olan güvenini sürdürmek açısından hayati önem taşıyor.

Konuya geri dön

ERDEM

Kaynak: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm