Hanoi Sözleşmesi, uzmanların yapay zeka tehditlerine karşı 'dijital bağışıklık' önermesini sağladı

Kriminolog Yarbay Dr. Dao Trung Hieu, yapay zekânın (YZ) gelişiminin insanların bilgi oluşturma, alma ve doğrulama biçimlerini kökten değiştirdiğini söyledi. Deepfake, sentetik sesler veya yapay görüntüler gibi teknolojiler, gerçek ile sahte arasındaki çizgiyi daha önce hiç olmadığı kadar belirsizleştiriyor.

Yarbay, PhD, kriminoloji uzmanı Dao Trung Hieu. Fotoğraf: NVCC.

Europol istatistiklerine (2024) göre, günümüzde çevrimiçi içeriklerin yaklaşık %90'ı farklı düzeylerde yapay zeka müdahalesine sahipken, bunların %15'inde kasıtlı sahtecilik belirtileri görülüyor.

Vietnam'da Kamu Güvenliği Bakanlığı , yapay zekanın akrabaları, banka yetkililerini veya devlet kurumlarını taklit ederek mala el koyma amacıyla kullanıldığına dair bir dizi suç davası kaydetti; bazı davalarda onlarca milyarlarca dolara varan kayıplar yaşandı.

Endişe verici olan sadece maddi hasar değil, aynı zamanda tüm insan ilişkilerinin temeli olan toplumsal güvenin de aşınmasıdır. Gerçek yeniden yaratılabildiğinde, tüm toplumsal ilişkilerin temeli olan güven, saldırının ilk hedefi haline gelmiştir.

Kıdemli Albay Dao Trung Hieu, "Yukarıdaki olgular yalnızca suç araçlarının dönüşümü değil, suç davranışı alanının tamamen yeni özelliklerle yeniden şekillendirilmesidir: soyut, sınır ötesi, anonim ve kendi kendine öğrenen" dedi.

Yapay zeka çağında suç davranış yapısının dönüşümü

Yarbay Dao Trung Hieu, yapay zeka çağında suçların artık fiziksel alanla sınırlı olmadığını söyledi. Suç eylemleri, veri modelleri, algoritmalar ve otomatik üretim sistemleri aracılığıyla gerçekleştiriliyor ve bu da bireylerin veya kuruluşların her türlü bilginin gerçekliğini sahtekarlıkla taklit etmesine olanak tanıyor.

Geleneksel suçlarda fiziksel izler (delil, olay yeri, tanıklar) temel dayanakken, ileri teknoloji suçlarında dijital izler kilit rol oynar. Yapay zekâ, suçluların iki tehlikeli yeteneğe ulaşmasına yardımcı olur: sentetik gerçeklik, alıcıyı var olmayan bir şeye inandırma ve atıf erozyonu, davranışın kökenini bulmayı zorlaştırma.

Kriminolojik açıdan bakıldığında suçun dört unsurunun yapısında bir değişiklik görmek mümkündür:

Birincisi, Özne artık tek bir birey değil, otomatik bir sistem veya onu uzaktan kontrol eden bir grup insan olabilir;

İkincisi, ihlal edilen nesne yalnızca mal, şeref veya veri değil, aynı zamanda toplumsal güvendir - maddi olmayan ama temel öneme sahip bir değerdir;

Üçüncüsü, suç işlemenin araçları programlanmış, kendi kendine öğrenen, kontrol edilmesi zor ve sonsuza kadar tekrarlanabilir niteliktedir;

Dördüncüsü, toplumsal sonuçlar sadece ekonomik zararlarla sınırlı kalmıyor, psikoloji, ahlak ve ulusal güvenliğe de yayılıyor.

Hieu, "Yapay zekâ, insanlara yaratıcılık ve üretim konusunda destek sağlamakla kalmıyor, aynı zamanda sapkın davranışları da yeniden yapılandırıyor ve "dijital kriminoloji" kavramını modern suç biliminin yeni bir araştırma alanı haline getiriyor" dedi.

Geleneksel araştırmadan veri alanındaki araştırmaya geçiş

Bay Hieu, yapay zeka tabanlı suçların ortaya çıkmasının, soruşturma kurumlarını çalışma modellerini yenilemeye zorladığını söyledi. Olaydan sonra soruşturma yapmak yerine, veri akışının paralel olarak incelenmesi, davranış gerçekleşirken bilgi akışının toplanması ve analiz edilmesi gerekiyor.

Dijital adli bilimlerdeki “dijital parmak izleri”ne benzer şekilde her bir üretken modelin belirli özelliklerinin alınmasına olanak tanıyan AI iz analizi gibi teknikler araştırılıyor.

Vietnam'da Kamu Güvenliği Bakanlığı'nın profesyonel birimleri, yapay zeka tarafından oluşturulan ses, yüz ve video tanıma örneklerinden oluşan bir veri tabanı oluşturmak için teknoloji işletmeleriyle işbirliği yaptı.

Bununla birlikte, hukuki altyapının da iyileştirilmesi gerekiyor. Ceza Kanunu'nda değişiklik yapılması çalışmalarına "yapay zeka kullanarak suç işlemek" suçunun da eklenmesi gerekiyor ve aynı zamanda yapay zeka sistemlerinin sahiplerinin ve operatörlerinin sorumluluklarına ilişkin özel düzenlemeler yapılması gerekiyor.

Daha da önemlisi, "suçluyu arama" zihniyetinden "proaktif önleme" zihniyetine geçmektir. Sahte bir videonun resmi bir duyurudan daha hızlı yayılabileceği bir çağda, Devlet, işletmeler ve toplum dahil tüm taraflar arasında hızlı yanıt verme ve koordinasyon sağlama yeteneği kilit bir faktör haline geliyor.

Yapay zeka çağında dijital bağışıklık, "antikorlar"

Yarbay Dr. Dao Trung Hieu'nun vurguladığı bir kavram da "dijital bağışıklık"tır; bu, toplumun sahte bilgileri kendi kendine tanımlama ve bunlara tepki verme yeteneğidir. Ona göre, dijital bağışıklık oluşturmak için üç çözüm grubunu birleştirmek gerekir.

Birleşmiş Milletler Siber Suçlarla Mücadele Sözleşmesi'nin imza töreni 25 Ekim'de Hanoi'de gerçekleşti. Fotoğraf: Hükümet.

Öncelikle, kontrol ve inovasyon arasında bir denge sağlayarak esnek ve evrimsel bir yasal koridor inşa edin. Yasalar yapay zekayı "çerçevelemek" yerine, teknolojideki hızlı değişimlere uyum sağlayabilecek şekilde esnek olmalı ve çifte sorumluluk ilkesini sağlamalıdır - yapay zeka kullanan bireyler veya kuruluşlar, yarattıkları ürünlerden sorumlu olmalıdır.

İkinci olarak, yapay zeka tarafından üretilen içerikler için dijital köken doğrulama standartları (yapay zeka filigranı, menşe kodu) aracılığıyla ulusal bir kimlik belirleme mekanizması oluşturulmalıdır. Dijital platformların, yapay zeka tarafından üretilen içerikleri etiketlemesi veya doğrulaması, kullanıcıların gerçek ile sahteyi daha ilk alım aşamasından itibaren ayırt edebilmelerine yardımcı olmalıdır.

Üçüncüsü, eğitim ve sosyal medya uzun vadeli bir savunma hattıdır. Yasalar davranışları düzenleyebilir, ancak farkındalığı yalnızca eğitim düzenleyebilir. Veri güvenliği, sahte haber tanıma becerileri ve teknoloji etiği hakkındaki bilgilerin genel eğitim ve üniversite müfredatlarına entegre edilmesi, güvenli bir toplum için sürdürülebilir bir temel olan "dijital antikorlara" sahip bir vatandaş sınıfı yaratacaktır.

Bay Hieu'ya göre yapay zekâ yalnızca teknolojik bir ilerleme değil, aynı zamanda insanlığın ahlaki ve yasal bir sınavıdır. Makineler gerçeği yeniden yaratabildiğinde, insanlar programlanamayan tek inancı nasıl koruyacaklarını öğrenmek zorunda kalırlar.

Vietnam'ın esnek bir yasal çerçeve oluşturarak, yapay zeka suçlarının önlenmesinde kamu-özel sektör iş birliğini artırarak ve halk için dijital bağışıklık eğitimini teşvik ederek proaktif bir şekilde öncülük etmesi gerekiyor.

"Yapay zeka çağında güvenli bir toplum, en güçlü güvenlik duvarlarına sahip olan değil, en uyanık vatandaşlara sahip olan toplumdur. Veri dijital çağın yakıtıysa, güven de motorudur. Güven olmadan, teknoloji ne kadar gelişmiş olursa olsun her sistem çöker," diye vurguladı kriminolog.

25 Ekim'de, "Siber Suçla Mücadele - Sorumluluğu Paylaşmak - Geleceğe Bakmak" temalı Birleşmiş Milletler Siber Suç Sözleşmesi'nin imza töreni Hanoi'de gerçekleşti. Hanoi Sözleşmesi, siber suçlara karşı ortak mücadele çabalarını koordine etmek için ilk küresel yasal çerçevenin oluşturulmasında önemli bir adım olarak kabul ediliyor. Bu, yalnızca uluslararası toplum için değil, aynı zamanda Vietnam'ın uluslararası arenadaki rolünü ve konumunu da teyit eden tarihi bir dönüm noktasıdır.

Source: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html