Engelli insanları taklit ederek kâr elde etmek için yapay zeka kullanılıyor: Yeni dolandırıcılığa dikkat edin

Bunlar, yapay zekâ (YZ) teknolojisini kullanarak normal insanların yüzlerini ve vücutlarını düzenleyip onları engelli bireylere dönüştüren, ardından ürün satmak veya destek toplamak için üzücü hikayeler yaratan kötü adamlardır. Tek amaçları, toplumun yasadışı kazançlar için duyduğu şefkatten yararlanmaktır.

ateş-dao.jpg — TikTok'un NL adlı kanalında, yapay zeka teknolojisiyle engelli bir kişiye benzeyen kadının görüntüsü düzenlendi

Karmaşık numaralar

Kamuoyunda büyük tepkiye yol açan tipik bir örnek, iki kolu kesilmiş bir kadının küçük çocuklarına destek olmak için internette ürün satmaya çalıştığı bir dizi videoyu yayınlayan NL adlı TikTok kanalıydı. Videolarda kadın, sade kıyafetler giyerek sade bir odada görünüyor ve kesik kolunu kullanarak ürünleri tanıtıyor, izleyicileri duygulandırıp sempatik hale getiriyordu. Birçok kişi, annenin zorlukların üstesinden gelmesine yardımcı olmak için videoyu takip etmekten, paylaşım yapmaktan ve hatta ürün sipariş etmekten çekinmedi. Ancak videolar viral hale gelince, çevrimiçi topluluk bunun aslında yapay zeka teknolojisiyle gerçek bir engelli gibi görünecek şekilde düzenlenmiş sıradan bir satış elemanının görüntüsü olduğunu fark etti.

Acıma duygusuna hitap etme hilesi, birçok insanın zayıf ve dezavantajlı bir kişiye yardım ettiklerine inandıkları için para transfer etmeye veya sipariş vermeye istekli olmasını sağlayan bir tuzağa dönüştü. Bo De Ward ( Hanoi ) Ngoc Lam Caddesi'nde yaşayan Bay Dang Minh Quang şunları paylaştı: "Annem, kolu kesilmiş bir kadının mal sattığı klibe inandı, bu yüzden üzüldü ve bu kişinin sattığı ürünlerden sipariş verdi. Engelli kişinin yapay zeka tarafından yaratılmış bir imajdan ibaret olduğunu öğrendiğinde çok üzüldü ve incindi."

Quang'ın annesinin hikayesi benzersiz değil. Yüzlerce kişi de benzer şekilde kandırıldı. Nezaket suistimal edildiğinde, insanlar yavaş yavaş inançlarını kaybeder ve gerçek yardım çağrılarına karşı çekingenleşirler. Ve acı verici sonuç, savunmasız kişilerin gerçekten ciddi şekilde yaralanmasıdır. Nguyen Sin, kişisel Facebook sayfasında, "Nga Tic Cuc" kanalının sahibi ve engelli olan Bayan Tran Thi Nga'nın ( Phu Tho eyaletinde 36 yaşında) vakasını paylaştı (2024'ün sonunda akut miyokardit nedeniyle hayatını kurtarmak için hem kollarını hem de bacaklarını kesmek zorunda kaldı). Birçok kişi tarafından iyimser yaşam azmiyle ilham veren biri olarak biliniyordu. Ancak, yapay zekâ kullanarak engelli insan taklidi yapma vakalarının artmasının ardından, Bayan Nga'nın yapay zekâ kullanarak engelli insan taklidi yaptığından şüphelenildi.

Bayan Nga, son canlı yayınlarda bazı sosyal medya kullanıcılarının kendisinden gerçekten engelli olduğunu kanıtlamak için "el kaldırmasını" veya "sürünmesini" istemesi üzerine defalarca üzüldü. Bu mantıksız ve acımasız talepler onu derinden yaraladı. "Aktif Nga"nın hikayesi, teknoloji kötüye kullanımının ne kadar zararlı olabileceğinin yürek burkan bir kanıtı.

Yapay zeka tarafından üretilen sahte içerik tanıma becerileri

Kamu Güvenliği Bakanlığı'na göre, 2024 yılında Vietnam'da 6.000'den fazla çevrimiçi dolandırıcılık vakası kaydedildi ve bu da yaklaşık 12.000 milyar Vietnam Dongu'luk bir kayba yol açtı. 2025'in sadece 8 ayında ise yaklaşık 1.500 çevrimiçi dolandırıcılık vakası tespit edildi. Bu sayı, 78 milyondan fazla internet kullanıcısı ve 72 milyon sosyal ağ kullanıcısı olan ülkemizde, yüksek teknoloji suçlarının ne kadar tehlikeli bir seviyede olduğunu açıkça göstermektedir. Siber uzay, giderek daha karmaşık dolandırıcılık yöntemleri için verimli bir zemin haline geliyor ve günümüzde en büyük tehdit, yapay zekanın sahte içerik oluşturmak için kullanılması.

Bu endişe verici gerçek karşısında, yetkililer ve siber güvenlik uzmanları, insanların sahte içerikleri tespit etmek için bilgi ve becerilerle donatılmaları gerektiğini öneriyor. Long Bien Bölgesi Polisi (Hanoi) Gençlik Birliği Sekreter Yardımcısı Nguyen Nhat Ha, insanların resmi bilgi kaynaklarını düzenli olarak takip etmeleri, teknoloji ve yeni dolandırıcılık türleri hakkındaki bilgilerini proaktif olarak güncellemeleri gerektiğini belirtti. Özellikle, her zaman tetikte olmaları ve bilgi kaynaklarını dikkatlice doğrulamak, doğrulanmamış kaynaklara kişisel bilgi vermemek, bilinmeyen bağlantılara erişmemek ve doğrulanmamış hesaplara para transferi yapmamak gibi temel ilkeleri akıllarında tutmaları gerektiğini belirtti.

Siber güvenlik uzmanlarına göre, yapay zeka tarafından oluşturulan videoları tespit etmek için kullanıcıların görüntü ayrıntılarını, yüz hareketlerini, uzuvları veya sesleri dikkatlice incelemeleri gerekiyor. Boş gözler, doğal olmayan hareketler, gecikmeli konuşma veya uyumsuz dudak hareketleri gibi belirtiler genellikle Deepfake teknolojisinin belirtileridir.

Ayrıca, kanal tarafından paylaşılan bilgileri kontrol etmek, yorumları okumak ve etkinlik geçmişini görüntülemek de güvenilirliği değerlendirmenin basit yollarıdır. Bununla birlikte, kullanıcıların inanmadan önce doğrulama alışkanlığı edinmeleri gerekir. Bir video ne kadar duygusal olursa olsun, aceleyle paylaşılmamalı veya desteklenmemelidir.

Uzmanlar ayrıca sosyal medya platformlarını sansürü güçlendirmeye, yapay zeka kullanarak engelli kişileri taklit eden içerikleri tespit etmeye ve ihlal eden hesapları sıkı bir şekilde yönetmeye çağırdı. Yetkililerin ayrıca, teknolojinin kötü niyetli kişiler tarafından etik olmayan davranışlar için bir araç haline gelmesini önlemek amacıyla, yapay zeka görsel ve içeriklerinin kullanımı konusunda yakında net düzenlemeler yayınlaması gerekiyor.

Yorum (0)