Yapay zekanın ikiliği

Artık her kullanıcının bir "dijital kalkan" haline gelmesinin, her tıklama ve paylaşım için uyanık, tetikte ve sorumlu olmasının zamanı geldi.

Yapay Zekanın Faydaları ve İnce Çizgisi

Yapay zeka, hayata hiç bu kadar yakın olmamıştı. Sadece birkaç tıklamayla, kısa bir komutla sesler, görüntüler ve hatta çarpıcı gerçekçilikte videolar oluşturulabilir. Yapay zeka, zamandan tasarruf etmenize, içerik üretim maliyetlerini düşürmenize ve esnek dijital medya çağını başlatmanıza yardımcı olur.

Ancak "gerçekçi simülasyon" yeteneği iki ucu keskin bir kılıç haline geldi. Son zamanlarda sosyal medyada, deepfake teknolojisiyle oluşturulmuş, polis liderlerinin yüzlerinin, hassas vakalardaki görevli güçlerin görüntülerinin kesilip yapıştırıldığı, çarpıtılmış seslerle dublajlandığı ve yanlış anlaşılmalara ve insanların bölünmesine neden olan videolar sürekli olarak yayınlanıyor.

Bu tür kurgulanmış görüntüler sosyal medyada giderek daha fazla karşımıza çıkıyor.

TikTok'ta dolaşan bir klipte, görev başındaki bir trafik polisinin görüntüsü, saldırgan bir diyalogla ve "sadece para cezası" etiketiyle bir araya getirilerek, bu memurun kişisel çıkarı için gücünü kötüye kullandığı ima edildi. Birçok kullanıcı, özellikle de gençler, bu içeriğe kolayca inandı çünkü görüntü o kadar gerçekçiydi ki, ses ağız şekline o kadar yakındı ki, gerçek ile sahteyi ayırt etmek son derece zordu.

Yapay zeka teknolojisini uygulama becerisini "göstermek" istediği için, Dien Bien'de yaşayan genç bir YouTuber, idari para cezasına çarptırılarak ve kamuoyundan özür dilemek zorunda bırakılarak bedelini ödemek zorunda kaldı. 24 Ocak öğleden sonra, Dien Bien İl Polisi, Siber Güvenlik ve Yüksek Teknoloji Suçlarını Önleme Dairesi'nin, çarpıtılmış içerikli sahte bir video oluşturmak ve Trafik Polisi'ne hakaret etmek için yapay zeka kullanan Tong Van T.'ye (2001 doğumlu, Muong Ang bölgesinde ikamet ediyor) 7,5 milyon VND idari para cezası verme kararı aldığını duyurdu.

T., 7 Ocak'ta "Tuyền Vlog" adlı YouTube hesabına, "Takılırken trafik polisi tarafından kovalandım" başlıklı, 3 dakikadan uzun bir video yükledi. Klipte, yapay zeka teknolojisi kullanılarak, trafik polisinin insanları kovalaması simüle edilerek, yetkililere karşı saldırgan ve iftira niteliğinde efektler ve yorumlarla birleştirilmiş görüntüler ve durumlar kurgulanmıştı.

Polisle birlikte çalışan T., videonun tüm içeriğinin "eğlence" ve yapay zeka teknolojisinin kullanım yeteneğini gösterme amacıyla sahte bir ürün olduğunu itiraf etti. Yetkililer, para cezasına ek olarak, T.'den söz konusu sahte videoyu kaldırmasını ve kişisel YouTube kanalında trafik polisinden alenen özür dilemesini istedi.

Dijital teknoloji patlamasının, özellikle de yapay zekanın hızla geliştiği bir çağda, düşman ve gerici güçler, Vietnam Halk Güvenlik Güçleri'nin imajını çarpıtmak ve karalamak amacıyla uydurma görüntüler ve hikâyeler yaratmak için bu aracı kullanmaktan çekinmediler. Son zamanlarda sosyal medyada dolaşan, polis üniforması giymiş hamile bir kadının "gangster" bakışlı iki adam tarafından tehdit edildiği fotoğraf, bu hilenin açık bir göstergesi.

Yapay zekanın ürettiği fotoğraf, son zamanlarda sosyal medyada viral oldu.

İzleyiciler ilk bakışta bunu gerçek bir sahne sanabilir ve "Zavallı çocuk, hamile bir polis kadınını gangsterler tarafından dövülmekten kurtarır, beklenmedik bir şekilde tüm ülkeyi şoke eden bir dava açar..." gibi sansasyonel bir başlıkla desteklenebilir. Ancak bu aslında kurgulanmış bir sahne, muhtemelen bir filmden veya eğlence ürününden alınmış veya daha da kötüsü, okuyucuların duygularını kandırmak ve onları kolluk kuvvetlerinin faaliyetlerinin gerçekliğinden şüphe etmeye yöneltmek için yapay zeka tarafından oluşturulmuş bir görüntü.

Daha da endişe verici olanı, bu tür içeriklerin yayılması, toplumda gece gündüz güvenlik ve düzeni koruyan Halk Güvenlik Güçleri'nin itibarını ve imajını zedelemekle kalmıyor, aynı zamanda karmaşık bir psikolojik savaş biçimine de dönüşüyor. İnsanların yetkililere olan güveni sahte imajlarla aşındığında, düşman güçlerin büyük ulusal birlik bloğunu bölme gibi derin hedefleri yavaş yavaş gerçeğe dönüşecektir.

Dolayısıyla her vatandaşın uyanıklığını artırması, eleştirel düşünme ve sahte bilgileri tespit etme becerisine sahip olması, yanlış içerikleri kararlılıkla kınaması ve çürütmesi, siber uzayda yayılan mevcut zehirli bilgi dalgasına karşı ideolojik temelin korunmasına ve toplumsal istikrarın sağlanmasına katkıda bulunması gerekmektedir.

Ho Chi Minh şehrinde, polis üniforması giymiş bir kişinin bir ofiste bir ihlalciden "itiraf zorla" aldığı sahneyi kaydeden yaklaşık 1 dakikalık bir klip sosyal medyada aniden viral oldu. Videoda, polis memuru olduğu düşünülen kişinin sert bir tavır sergilediği, sürekli bağırıp çağırdığı, hatta kaba sözler kullandığı ve halk arasında öfkeye neden olduğu görülüyor.

Ancak videonun viral olmasının hemen ardından Ho Chi Minh Şehri Polisi hızla soruşturma başlattı ve bunun karmaşık bir deepfake ürünü olduğunu doğruladı. Sonuca göre, videodaki yüz, polis teşkilatının dahili bir konferansının kaydından alınmış ve ardından kötü niyetli kişiler tarafından yapay zeka teknolojisi kullanılarak kurgulanmış bir sahneye yerleştirilmiş ve izleyicilerin yanlışlıkla gerçek bir eylem olduğuna inanmalarına neden olmuştur.
Özellikle eşlik eden seste, aslında herhangi bir yetkilinin gerçek sözleri olmayan, izleyicinin duygularını aldatmak için programlanmış ve düzenlenmiş, sentezlenmiş bir yapay zeka sesi olan tehditkar, hakaret içeren bir ses yer alıyor.

Bu olay, Halk Güvenlik Güçleri'ni çarpıtmak ve karalamak için deepfake teknolojisinin kullanılmasının tipik bir örneğidir. Bu hile, siber uzayda gerici ve hükümet karşıtı güçler tarafından giderek daha fazla kullanılmaktadır. Bu tür sahte ürünlerin derhal ifşa edilmemesi durumunda ciddi sonuçlara yol açabileceğini belirtmekte fayda var: İnsanların kolluk kuvvetlerine olan güvenini sarsmak, toplumda direnişi kışkırtmak ve asılsız iddiaların yayılmasına zemin hazırlamak. Bu durum, medyanın sahte haberleri çürütme, tespit etme ve bunlarla mücadele etme kapasitesini artırmanın aciliyeti konusunda açık bir uyarıdır ve aynı zamanda her vatandaşı dikkatli olmaya ve resmi kaynaklardan doğrulanmamış içerikleri paylaşmak veya yorumlamak için acele etmemeye çağırmaktadır.

Güney'deki bir araç muayene merkezinde ihlallerin ele alınmasıyla ilgili yakın tarihli bir başka vakada, düşmanca tavırlar sergileyen kişiler, bir il polis şefinin hatalı polis memurlarını savunurken çekilmiş sahte bir videosunu yayınladı. Bu video, Telegram ve sosyal medyada "güçlü güçler tarafından destekleniyor" başlığıyla yayıldı, ancak aslında yapay zeka ürünüydü ve hiçbir basın toplantısında veya resmi belgede yer almadı.

Siber alemde tehlikeli bir eğilim sessizce yayılıyor: Kötü niyetli kişiler, dolandırıcılık ve şantaj amacıyla yapay zeka teknolojisini kullanarak sahte klipler oluşturuyor. Son zamanlarda, özellikle avukatlar, doktorlar ve iş insanları gibi saygın kişilerin görüntüleri, "internetten dolandırılan parayı geri almak" amacıyla reklam videolarına dönüştürüldüğünde birçok kişi mağdur oluyor.

Bu kliplerde, yapay zeka, avukatın sesini ve yüzünü taklit ederek izleyicilerin güvenini kazanmalarını ve böylece dolandırıcıya kolayca kişisel bilgi vermelerini veya para aktarmalarını sağlıyor. Daha da tehlikelisi, bazı kişiler deepfake teknolojisini kullanarak kurbanın yüzünü seks videolarına yerleştiriyor ve ardından bunları eşlerine, kocalarına veya meslektaşlarına göndererek onları tehdit ediyor ve "meseleyi gizli tutmak" için para göndermeye zorluyor.

Mart 2025'te, Hanoi'de bir mağdurdan kendi görüntüsüyle sahte bir seks klibi aldıktan sonra on milyonlarca dong transfer etmesi istendiğinde şok edici bir olay yaşandı. Bu arada, Ho Chi Minh şehrinde, hassas videonun yayılmasını istemediği takdirde bir başkasına 2 milyar dong'a kadar şantaj yapıldı. Kamu Güvenliği Bakanlığı, bu hatların ardındaki, çoğunlukla Çin ve Güneydoğu Asya'dan birçok ulusötesi suç örgütünü tespit ederek, kimliklerini gizlemek için çöp SIM kartlar, e-cüzdanlar ve sosyal ağ platformları kullandı.

Bu artık küçük çaplı bir dolandırıcılık değil, onur ve sosyal ilişkiler korkusunu kurban üzerinde baskı kurmak için derinlemesine kullanan bir tür "yüksek teknolojili psikolojik savaş". Dikkatinizi, bilgi ve sıra dışı davranışları tespit etme becerilerinizi geliştirmezseniz, herkes yüksek teknoloji kullanan suçluların elinde "av" haline gelebilir. Bu karmaşık sahtecilik dalgası karşısında, her vatandaşın tetikte olması, kişisel bilgilerini kesinlikle ayrım gözetmeksizin paylaşmaması ve yasa dışı eylemleri kınamak için sesini yükseltmeye hazır olması, hem kendisinin hem de toplumun güvenliğini korumaya katkıda bulunması gerekiyor.

Deepfake tehdidiyle mücadele etmek için topluluktan "dijital bir kalkan" gerekiyor.

Kültür, Spor ve Turizm Bakanlığı Radyo, Televizyon ve Elektronik Enformasyon Dairesi'ne göre, Vietnam'daki dijital platformlar 2024 yılında, çoğunluğu deepfake, ses klonu gibi yapay zeka teknolojisiyle oluşturulmuş ürünler olan, yanlış ve çarpıtılmış bilgiler içeren 4.000'den fazla videoyu kaldırmak zorunda kaldı. Sadece gençler arasında popüler bir platform olan TikTok'tan, çoğunluğu polis teşkilatı, hükümet ve sosyal politikalarla ilgili olan 1.300'den fazla deepfake klibi kaldırması istendi.

Teknoloji patlaması çağında, yapay zeka çığır açan bir potansiyel ortaya çıkarıyor, ancak aynı zamanda benzeri görülmemiş tehlikeler de barındırıyor; özellikle de çarpıtılmış içeriklere sahip deepfake ürünler, kamu kurumlarının itibarını zedeliyor. MICRI Medya Araştırma Enstitüsü tarafından yapılan bir anket, Vietnam'daki sosyal medya kullanıcılarının %62'sinin ana akım medya veya yetkililerden uyarı almadan gerçek ile sahteyi ayırt edemediğini gösteriyor. Bu, kötü niyetli güçlerin yanlış bilgi yaymak ve toplumsal psikolojik rahatsızlıklara yol açmak için sonuna kadar kullandığı bir "bilişsel boşluk".

Tong Van T. polis karakolunda.

Kriminoloji uzmanı Tümgeneral Doçent Dr. Do Canh Thin'e göre, yapay zekayı liderlerin sahte videolarını oluşturmak, yanlış ifadeleri düzenlemek veya polis teşkilatının mesleki eylemlerini çarpıtmak için kullanmak yeni ama özellikle tehlikeli bir hile. Tümgeneral Do Canh Thin, "Deepfake, yalnızca bir eğlence ürünü değil, aynı zamanda güveni yok edebilen, toplumsal istikrarsızlığa yol açabilen ve kontrol edilmesi çok zor olan modern bir bilgi savaşı biçimidir," diye yorumladı.

Aslında, yapay zeka tarafından manipüle edilen klipler zararsız değil; ancak genellikle ihlallerin ele alınması, suçların soruşturulması, yolsuzlukla mücadele vb. gibi hassas konulara değiniyor ve insanların kafalarının karışmasına ve kolluk kuvvetlerine şüpheyle yaklaşmasına neden oluyor. Daha da endişe verici olanı, birçok videonun YouTube ve TikTok gibi büyük platformlarda paylaşıldıktan sonra yüz binlerce kez izleniyor ve kaldırılıyor olması, olumsuz bir viral etki yaratıyor.

Dijital medya uzmanı Hoang Minh uyarıyor: "Dikkatli olmadan tek bir paylaşım veya beğeniyle bile sahte haberlerin yayılmasına aracı olabilirsiniz. Her internet kullanıcısının, dijital alandaki davranışların da gerçek sonuçları olduğunu anlaması gerekiyor."

Bu bağlamda, her zamankinden daha fazla ihtiyaç duyulan şey, toplumun kendisinden bir "dijital kalkan" oluşturmaktır: yani, teyakkuz, bilgi bağışıklığı ve ağ ortamına karşı sorumluluk. Teknoloji tarafsız olabilir, ancak insanların onu nasıl kullandıkları, yapay zekanın kalkınmanın itici gücü mü yoksa toplumsal güveni yok eden bir güç mü olacağını belirleyecektir. İdeolojik cepheyi korumak, Halkın Kamu Güvenliği askerinin imajını korumak, ulusal güvenliğin temelini korumaktır; bu, yalnızca işlevsel sektörün değil, aynı zamanda dijital çağdaki her vatandaşın görevidir.

Yorum (0)