Yapay zeka fotoğrafları ve videoları Facebook'u doldurdu: Görünüşte zararsız ama son derece tehlikeli

Tekrar baktığında, bunun bir Facebook sayfasının duygusal bir paylaşımı görselleştirmek için kullandığı bir yapay zeka fotoğrafı olduğunu fark etti. Yapay zeka tarafından "neredeyse" kandırıldığı ikinci sefer olduğunu belirtmekte fayda var. Daha önce de "'emekliler'in 'yaz tatilcileriyle' buluştuğu" videoyu gerçek insanlar ve gerçek olaylar sanmıştı.

Medya sektöründe çalışan ve yapay zeka içerikleriyle düzenli olarak karşılaşan Bayan Linh, bu teknolojinin o kadar hızlı ve karmaşık bir şekilde geliştiğini, gerçek ile sahteyi ayırt etmenin zorlaştığını itiraf etmek zorunda kaldı.

ekran görüntüsü 1749203761184.png — Facebook'ta viral olan fotoğraf yapay zeka tarafından oluşturuldu. Ekran görüntüsü.

Uzmanlar da bu görüşe katılıyor. Google Veo 3, Kling AI, DALL·E 3, Midjourney... gibi araçlar inanılmaz derecede gerçekçi görüntüler ve videolar oluşturma yeteneğine ulaştı.

Blockchain Teknolojisi ve Yapay Zeka Enstitüsü ABAII Eğitim Direktörü Do Nhu Lam, multimodal teknoloji ve gelişmiş dil modelleri sayesinde bu araçların görüntüleri, sesleri, yüz ifadelerini ve doğal hareketleri senkronize ederek son derece ikna edici ürünler ortaya çıkarabildiğini belirtti.

W-Fotoğraf: Bay Do Nhu Lam.jpg — Blockchain Teknolojisi ve Yapay Zeka Enstitüsü ABAII Eğitim Direktörü Bay Do Nhu Lam, gelişmiş yapay zeka teknolojisinin son derece ikna edici ürünler ortaya çıkardığını söyledi. Fotoğraf: NVCC

Bay Lam, yapay zekanın ilerlemesinin içerik oluşturma, reklamcılık, eğlence ve eğitim gibi alanlarda büyük bir potansiyel yarattığını belirtti. Ancak, bu "gerçekçi" yeniden yaratma yeteneği, gerçeklik ile sanallık arasındaki sınırın giderek belirsizleşmesiyle birlikte etik, kontrol ve bilgi güvenliği açısından birçok zorluğa da yol açıyor.

Bayan Linh'in gördüğü Facebook gönderisi yaklaşık 300.000 etkileşim ve 16.000'den fazla yorum aldı. Birçok kullanıcı, bunun sadece bir yapay zeka çizimi olduğunu bilmeden tebrik etmek veya duygularını dile getirmek için acele etti. Daha "aklı başında" bazı kişiler ise, internet kullanıcılarını yapay zekanın onları kandırmasına izin vermeyecek kadar "naif" olmakla eleştirdi.

Facebook gruplarında ve forumlarında, kullanıcılar tarafından oluşturulup paylaşılan yapay zeka videolarını görmek hiç de zor değil. Özellikle Google Veo 3'ün ortaya çıkması, videoların kalitesini, özellikle de karakterin ağız şekline uygun ses tonunu önemli ölçüde artırdı. Dikkatli izlenmezse, izleyiciler kolayca kafa karışıklığı yaşayabilir.

Yapay zeka çağında aklı başında kalmak

Yapay zeka ile çekilen fotoğraf ve videoları ayırt etmek zor olduğundan, özellikle teknoloji konusunda uzman olmayan savunmasız gruplar olmak üzere kullanıcılar için büyük riskler oluşturuyor. SCS Cyber Security Anonim Şirketi Yapay Zeka (CAIO) Direktörü Bay Vu Thanh Thang'a göre, siber suçlular yapay zekayı dolandırıcılık (biyometrik sistemleri, eKYC'yi atlatma vb.) ve ünlü kişilerin kimliğine bürünerek yanlış bilgi yayma gibi amaçlarla kullanıyor ve kamuoyunda kafa karışıklığı yaratıyor. Yüksek teknoloji suçlularının yapay zekayı kullanarak deepfake fotoğraflar oluşturduğu, akrabalarının kimliğine bürünerek görüntülü görüşmeler yaptığı ve para dolandırdığı birçok vaka mevcut.

Bay Vu Thanh Thang.jpg — SCS Cyber Security Anonim Şirketi Yapay Zeka (CAIO) Direktörü Bay Vu Thanh Thang, her şeyin sahtesinin yapılabileceği bir döneme girdiğimizi söyledi. Fotoğraf: NVCC

Bay Thang'e göre, işletmeler de yapay zeka suçluları için potansiyel hedefler. Yapay zeka Deepfake'i kullanarak çalışanları taklit edebilir, güvenlik sistemlerini atlatarak devamsızlıkları açabilir ve şirket liderlerini taklit ederek itibarlarını zedeleyip yok edebilirler.

Aynı görüşü paylaşan ABAII'den Bay Do Nhu Lam, yapay zekanın bireysel kullanıcılar için üç olumsuz sonuca yol açabileceğini belirtti: finansal dolandırıcılık, itibar zedelenmesi ve özel bilgilerin sömürülmesi. İşletmeler açısından bakıldığında, Arup şirketi, Hong Kong şubesindeki çalışanların sahte bir video konferansa katılmaya ve talep edildiği gibi para transfer etmeye kandırılmasının ardından 25 milyon ABD doları kaybetti.

Günümüzün viral video üreten yapay zeka aracı Veo 3 hakkında bilmeniz gereken her şey Google'ın en son video üreten yapay zeka modeli Veo 3, görüntülerle gerçekçi bir şekilde senkronize edilmiş sesler oluşturma yeteneğiyle etkileyici.

Bir diğer ciddi risk ise insanların gerçek ile sahteyi ayırt edememesi durumunda medyaya ve resmi haber kaynaklarına olan güvenin azalmasıdır.

Bay Lam, Reuters Enstitüsü'nün 2024 raporuna atıfta bulunarak, medya platformlarındaki haberlere güvenen küresel kullanıcı oranının, büyük ölçüde deepfake içeriklerin ortaya çıkması nedeniyle on yılın en düşük seviyesine düştüğünü belirtti.

Uzman Vu Thanh Thang'a göre, "Tüm bilgilerin sahtesinin yapılabileceği ve artık 'risk' teşkil etmediği bir çağdayız." Bu nedenle, farkındalığı artırmak, kişisel koruma önlemlerini uygulamak ve huzur içinde yaşamak için yapay zeka hakkında bilgi edinmek gerekiyor.

İki uzman, kullanıcıların karar vermeden önce bilgileri her zaman doğrulayıp doğrulamalarını; sahte içerikleri tespit etmek için kendilerini bilgiyle donatmalarını; kişisel bilgilerin çevrimiçi paylaşımını sınırlamalarını ve sahte içerik yayma eylemlerini bildirmelerini öneriyor. Bay Lam , "Kullanıcılar yalnızca proaktif ve bilgili davranarak kendilerini gerçekten koruyabilir ve dijital çağda daha güvenli bir siber alan oluşturmaya katkıda bulunabilirler," dedi.

Yapay zeka nedeniyle insanlığın yok olmasından endişe eden 'Vaftiz babası' Yoshua Bengio harekete geçti . 'Vaftiz babası' Yapay Zeka Yoshua Bengio, insanlara tehlikeli kişilikler göstermek yerine güvenli yapay zeka sistemleri yaratmayı hedefleyen kar amacı gütmeyen bir kuruluş kurdu.

Yorum (0)