Yapay zekanın ikiliği

Yapay zekâ (YZ) birçok fırsat sunarken, polis gücünün ve hükümetin imajını çarpıtan ve kamuoyunu kışkırtan sahte deepfake videolar oluşturmak için kullanıldığında tehlikeli bir araç haline de geliyor. Bu ustaca düzenlenmiş videolar, yetkililere olan güveni zedelemekle kalmıyor, aynı zamanda siber alanda gelişmiş bir psikolojik savaş biçimi oluşturuyor.

Her kullanıcının birer "dijital kalkan" haline gelmesinin, her tıklamasında ve paylaşımında tetikte, uyanık ve sorumlu davranmasının zamanı geldi.

Yapay zekanın faydaları ve dezavantajları

Yapay zekâ daha önce hiç bu kadar günlük hayata yakın olmamıştı. Sadece birkaç tıklama ve kısa bir komutla, şaşırtıcı bir gerçekçilikle sesler, görüntüler ve hatta videolar oluşturabiliyoruz. Yapay zekâ zaman kazandırıyor, içerik üretim maliyetlerini düşürüyor ve esnek dijital medya çağını başlatıyor.

Ancak, "gerçekliği gerçekçi bir şekilde simüle etme" yeteneği, iki ucu keskin bir kılıç haline geldi. Son zamanlarda, sosyal medya, polis liderlerinin yüzlerinin ve hassas davalardaki kolluk kuvvetleri mensuplarının görüntülerinin, kamuoyunu yanıltmak ve bölmek amacıyla seslendirmelerle manipüle edilip çarpıtıldığı deepfake teknolojisi kullanılarak oluşturulmuş videolarla dolup taştı.

Bu tarz kurgulanmış görüntüler sosyal medyada giderek daha yaygın hale geliyor.

Viral hale gelen bir TikTok videosunda, görev başındaki bir trafik polisinin görüntüleri, "para cezaları sadece gösteriş için" etiketiyle birlikte, memurun yetkisini kişisel kazanç için kötüye kullandığı ima edilerek, hakaret içeren diyaloglarla yan yana getirildi. Özellikle gençler olmak üzere birçok kullanıcı, görsellerin çok gerçekçi olması ve sesin dudak hareketleriyle yakından eşleşmesi nedeniyle bu içeriğe kolayca inandı; bu da gerçek ile sahteyi ayırt etmeyi son derece zorlaştırdı.

Dien Bien'de yaşayan genç bir YouTuber, sadece yapay zeka teknolojisi becerilerini "gösteriş yapmak" istediği için idari para cezası ve zorunlu kamuoyu özrüyle karşı karşıya kaldı. 24 Ocak öğleden sonra, Dien Bien İl Emniyet Müdürlüğü, Siber Güvenlik ve Yüksek Teknoloji Suçları Önleme Birimi'nin, trafik polis memurları hakkında çarpıtılmış ve hakaret içeren uydurma bir video oluşturmak için yapay zeka kullandığı gerekçesiyle Tong Van T.'ye (2001 doğumlu, Muong Ang ilçesinde ikamet eden) 7,5 milyon VND tutarında idari para cezası kestiğini duyurdu.

Özellikle 7 Ocak'ta T., "Tuyen Vlog" adlı YouTube hesabına "Dışarıdayken trafik polisi tarafından kovalandım" başlıklı, 3 dakikadan uzun bir video yükledi. Klipte, trafik polisinin vatandaşları kovaladığı sahneler yapay zeka teknolojisi kullanılarak kurgulanmış ve kolluk kuvvetlerine karşı hakaret içeren ve iftira niteliğinde efektler ve yorumlarla birleştirilmişti.

Polisle işbirliği yapan T., videonun tüm içeriğinin "eğlence" amacıyla ve yapay zeka teknolojisini kullanma yeteneğini göstermek için oluşturulmuş uydurma bir ürün olduğunu itiraf etti. Yetkililer, para cezasına ek olarak, T.'nin sahte videoyu kaldırmasını ve kişisel YouTube kanalında trafik polisinden kamuoyu önünde özür dilemesini emretti.

Dijital devrim çağında, özellikle yapay zekanın hızlı gelişimiyle birlikte, düşmanca ve gerici güçler, Vietnam Halk Polis Gücü'nün imajını bozmayı ve lekelemeyi amaçlayan uydurma görüntüler ve hikayeler yaratmak için bu aracı kullanmaktan çekinmediler. Son zamanlarda sosyal medyada dolaşan ve polis üniforması giymiş hamile bir kadının "gangster" görünümündeki iki adam tarafından tehdit edildiğini gösteren fotoğraf, bu taktiğin açık bir kanıtıdır.

Yapay zekâ kullanılarak oluşturulan bu görüntü, son zamanlarda sosyal medyada viral oldu.

İlk bakışta, izleyiciler bunu kolayca gerçek bir sahneyle karıştırabilir ve "Zavallı çocuk, gangsterlerin saldırısına uğrayan hamile kadın polis memurunu kurtararak, farkında olmadan tüm ülkeyi şok eden bir olayı ortaya çıkardı..." gibi sansasyonel başlıklar görebilirler. Ancak bu aslında sadece kurgulanmış bir sahne, muhtemelen bir film veya eğlence ürününden alınmış, hatta daha kötüsü, okuyucunun duygularını aldatmak, onları acıma duygusuna sevk etmek ve kolluk kuvvetlerinin gerçekliğinden şüphe duymalarına yol açmak için yapay zeka tarafından oluşturulmuş bir görüntüdür.

Daha da endişe verici olanı, bu tür içeriklerin yayılması, toplumun güvenliğini ve düzenini korumak için gece gündüz çalışan Halk Polisi'nin itibarını ve imajını zedelemekle kalmayıp, aynı zamanda gelişmiş bir psikolojik savaş biçimi oluşturmasıdır. Halkın yetkililere olan güveni aldatıcı görüntülerle sarsıldığında, düşman güçlerin ulusal birliği bölme yönündeki gizli amaçları yavaş yavaş gerçekleşecektir.

Bu nedenle, her vatandaşın uyanıklığını artırması, eleştirel düşünme becerilerini ve sahte bilgiyi tespit etme yeteneğini geliştirmesi, yanlış içerikleri kararlılıkla kınaması ve çürütmesi, internetteki mevcut zararlı bilgi dalgası karşısında ideolojik temeli korumaya ve toplumsal istikrarı sürdürmeye katkıda bulunması gerekmektedir.

Ho Chi Minh şehrinde, yaklaşık bir dakika uzunluğundaki bir video klip beklenmedik bir şekilde sosyal medyada viral oldu. Videoda, polis üniforması giymiş bir kişinin bir şüpheliyi ofiste trafik ihlalini itiraf etmeye "zorladığı" görülüyor. Polis memuru olduğu düşünülen kişinin videoda agresif bir tavır sergilediği, sürekli bağırdığı ve hatta kaba ifadeler kullandığı, kamuoyunda büyük tepkiye neden oldu.

Ancak, video viral olduktan kısa bir süre sonra, Ho Chi Minh Şehri Polisi hızla soruşturma başlattı ve bunun gelişmiş bir deepfake (derin sahte video) olduğunu doğruladı. Bulgularına göre, videodaki yüzler polis teşkilatının iç toplantısından alınan bir kayıttan alınmış, ardından kötü niyetli kişiler tarafından yapay zeka teknolojisi kullanılarak kurgulanmış bir sahneye yerleştirilmiş ve izleyicilerin bunun gerçek bir olay olduğuna inanmasına yol açmıştır.
Özellikle, eşlik eden ses kaydında, herhangi bir yetkilinin gerçek sözleri olmayan, aksine izleyicinin duygularını aldatmak için programlanmış ve düzenlenmiş yapay zekâ tarafından oluşturulmuş tehdit ve hakaret içeren sesler yer almaktadır.

Bu olay, Halk Polis Gücü'nü çarpıtmak ve karalamak için deepfake teknolojisinin kullanımına dair önemli bir örnektir; bu taktik, siber alanda gerici ve yıkıcı güçler tarafından giderek daha fazla kullanılmaktadır. Önemli olan, bu tür sahte ürünlerin derhal ifşa edilmemesi durumunda ciddi sonuçlara yol açabilmesidir: kolluk kuvvetlerine olan kamu güvenini zedelemek, toplum içinde direnişi kışkırtmak ve yanlış anlatıların yayılmasını kolaylaştırmak. Bu, sahte haberleri çürütmek, tespit etmek ve bunlarla mücadele etmek için iletişim yeteneklerini geliştirmenin acil ihtiyacı konusunda açık bir uyarı niteliğindedir ve her vatandaşı uyanık olmaya ve resmi kaynaklardan gelen doğrulanmamış içerikleri aceleyle paylaşmaktan veya yorum yapmaktan kaçınmaya çağırmaktadır.

Yakın zamanda yaşanan bir başka olayda, Güney'deki bir araç muayene merkezindeki usulsüzlüklerin ele alınmasıyla ilgili olarak, düşman unsurlar, yolsuzluk yapan yetkilileri savunan bir il polis şefinin konuştuğu sahte bir video yaydı. Telegram ve sosyal medyada "güçlü güçler tarafından destekleniyor" başlığıyla yayılan bu video aslında yapay zeka ürünüydü ve hiçbir basın toplantısında veya resmi belgede yer almamıştı.

Çevrimiçi ortamda sessizce yayılan tehlikeli bir eğilim var: Kötü niyetli kişiler, dolandırıcılık ve şantaj amacıyla sahte videolar oluşturmak için yapay zeka teknolojisini kullanıyor. Son zamanlarda, özellikle avukatlar, doktorlar ve iş insanları gibi toplumda saygın kişilerin görüntüleri, "çevrimiçi dolandırıcılıkta kaybedilen paranın geri kazanılması" reklamı yapılan videolara yerleştirildiğinde birçok kişi mağdur oldu.

Bu videolarda, yapay zeka avukatların sesini ve yüzünü taklit etmek için kullanılıyor; bu da izleyicilerin dolandırıcılara inanmasını ve kolayca kişisel bilgilerini vermesini veya onlara para transfer etmesini sağlıyor. Daha da tehlikelisi, bazı failler deepfake teknolojisini kullanarak kurbanların yüzlerini seks videolarına yerleştiriyor ve ardından bunları eşlerine veya iş arkadaşlarına göndererek onları "sessiz kalmaları" için para transfer etmeye zorlamak veya tehdit etmek amacıyla kullanıyorlar.

Mart 2025'te Hanoi'de şok edici bir olay yaşandı; bir mağdurdan, kendisinin yer aldığı sahte bir seks videosu aldıktan sonra on milyonlarca dong transfer etmesi istendi. Bu sırada Ho Chi Minh şehrinde de başka bir kişi, hassas videonun yayılmasını istemediği takdirde 2 milyar dong ile şantaja uğradı. Kamu Güvenliği Bakanlığı soruşturma başlattı ve bu ağların arkasında, çoğunlukla Çin ve Güneydoğu Asya'dan olmak üzere, tek kullanımlık SIM kartlar, e-cüzdanlar ve sosyal medya platformlarını kullanarak kimliklerini gizleyen çeşitli uluslararası suç gruplarını tespit etti.

Bu artık sıradan bir dolandırıcılık değil, kurbanları onur ve sosyal ilişkiler korkusuyla baskı altına alan bir tür "yüksek teknolojili psikolojik savaş"tır. Olağandışı bilgi ve davranışları belirleme konusunda artan bir dikkat ve beceri olmadan, herkes bu yüksek teknolojili suçluların avı olabilir. Bu gelişmiş kimlik hırsızlığı dalgası karşısında, her vatandaşın tetikte olması, kişisel bilgilerini rastgele paylaşmaktan kesinlikle kaçınması ve yasadışı faaliyetlere karşı sesini yükseltmeye hazır olması, kendi güvenliğini ve toplumun güvenliğini korumaya katkıda bulunması gerekmektedir.

Deepfake tehdidiyle mücadele etmek için toplumdan bir "dijital kalkan" gerekiyor.

Vietnam Kültür, Spor ve Turizm Bakanlığı Yayıncılık, Televizyon ve Elektronik Bilgi Dairesi'ne göre, 2024 yılında Vietnam'daki dijital platformlar, çoğunluğu deepfake ve ses klonlama gibi yapay zeka teknolojisi kullanılarak oluşturulan, yanlış ve çarpıtılmış bilgiler içeren 4.000'den fazla videoyu kaldırmak zorunda kaldı. Sadece gençler arasında popüler bir platform olan TikTok'tan bile, çoğunlukla polis gücü, hükümet ve sosyal politikalarla ilgili 1.300'den fazla deepfake klibi silmesi istendi.

Teknoloji patlaması çağında, yapay zeka çığır açan potansiyellerin kilidini açarken, özellikle devlet kurumlarının itibarını zedeleyen çarpıtılmış içerik içeren deepfake ürünleri gibi benzeri görülmemiş tehlikeleri de beraberinde getiriyor. MICRI Medya Araştırma Enstitüsü tarafından yapılan bir anket, Vietnam'daki sosyal medya kullanıcılarının %62'sinin ana akım medya veya yetkililerden uyarı almadan gerçek ve sahte bilgileri ayırt edemediğini gösteriyor. Bu, kötü niyetli güçlerin yanlış bilgi yaymak ve sosyal psikolojiyi bozmak için sonuna kadar kullandığı bir "bilişsel boşluktur".

Tong Van T. polis karakolunda.

Kriminoloji uzmanı Tümgeneral, Doçent ve Doktor Do Canh Thin'e göre, yapay zekayı kullanarak liderleri taklit eden sahte videolar oluşturmak, yanlış ifadeler düzenlemek veya polis gücünün mesleki eylemlerini çarpıtmak yeni ancak özellikle tehlikeli bir taktiktir. Tümgeneral Do Canh Thin, "Deepfake sadece bir eğlence ürünü değil, güveni zedeleyebilen, sosyal istikrarsızlığa neden olabilen ve kontrol edilmesi çok zor olan modern bir bilgi savaşı biçimidir" dedi.

Gerçekte, yapay zeka tarafından manipüle edilen videolar zararsız olmaktan çok uzaktır; genellikle ihlallerin ele alınması, suçların soruşturulması ve yolsuzlukla mücadele gibi hassas konuları hedef alarak kamuoyunda kafa karışıklığına ve kolluk kuvvetlerine olan güvensizliğe neden olurlar. Daha da endişe verici olanı, birçok video YouTube ve TikTok gibi büyük platformlarda paylaşılarak kaldırılmadan önce yüz binlerce izlenme alarak olumsuz bir domino etkisi yaratmaktadır.

Dijital medya uzmanı Hoang Minh şu uyarıda bulunuyor: "Dikkatsizce yapılan tek bir paylaşım veya beğeni sizi sahte haberlerin suç ortağı haline getirebilir. Her internet kullanıcısının, dijital ortamdaki eylemlerin gerçek sonuçları olduğunu anlaması gerekiyor."

Bu bağlamda, her zamankinden daha çok ihtiyaç duyulan şey, toplumun kendi içinden bir "dijital kalkan" oluşturmaktır: yani, uyanıklık, bilgiye karşı bağışıklık ve çevrimiçi ortama karşı sorumluluk duygusu. Teknoloji tarafsız olabilir, ancak insanların onu nasıl kullandığı, yapay zekanın gelişme için itici bir güç mü yoksa toplumsal güvene karşı yıkıcı bir güç mü olacağını belirleyecektir. İdeolojik kararlılığı korumak ve polis memurunun imajını korumak, ulusal güvenliğin temelini korumaktır; bu, yalnızca ilgili makamlar için değil, dijital çağdaki her vatandaş için bir görevdir.

Kaynak: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html