Yapay zeka teknolojisi, çocuklar için çevrimiçi ortamda birçok risk oluşturuyor

DNVN - ChildFund Vietnam uzmanı Do Duong Hien, yapay zekanın internette çocuklar için pek çok fayda sağladığını ancak aynı zamanda pek çok potansiyel risk taşıdığını söyledi.

Vietnam Bilgi Güvenliği Derneği ve Bilgi Güvenliği Dairesi ( Bilgi ve İletişim Bakanlığı ) tarafından 21 Kasım'da Hanoi'de düzenlenen "Çevrimiçi ortamda çocukların korunmasında iş birliğinin teşvik edilmesi" konulu çalıştayda konuşan uzmanlar, dijital teknolojilerin hızla geliştiği ve her insanın günlük yaşamında vazgeçilmez bir çalışma ve eğlence aracı haline geldiği bir ortamda, güvenlik, bilgi güvenliği ve mahremiyete yönelik risklerin de arttığı yorumunu yaptı.

Çocuklar için bu tehlikeler ve riskler, bunları tespit edip önlemek için yeterli becerilere sahip olmadıklarında daha da belirgin hale geliyor. Bunlar sadece Vietnam için değil, dünyadaki birçok ülke için de zorluklar teşkil ediyor. Bu nedenle, çocukları korumak ve siber alanda iş birliği ve bağlantıyı güçlendirmek, çocukları korumak ve güçlendirmek için küresel olarak gündeme gelen konular arasında yer alıyor.

Bay Dang Vu Son - VNISA Başkan Yardımcısı.

VNISA Başkan Yardımcısı ve Hükümet Şifreleme Komitesi Eski Başkanı Sayın Dang Vu Son şunları söyledi: "Bu bağlamda, 2021-2025 döneminde çocukların çevrimiçi ortamda sağlıklı ve yaratıcı bir şekilde etkileşim kurmalarını koruma ve destekleme programı, devlet kurumları, sosyal kuruluşlar ve işletmelerin aktif katılımını teşvik etmek için bir itici güç oluşturdu. Ancak uygulamada, ilgili taraflar arasında bağlantı ve koordinasyon sağlamada hâlâ kısıtlamalar bulunmakta ve bu durum, siber uzayda çocuk koruma çalışmalarının etkinliğini önemli ölçüde etkilemektedir."

Bay Son'a göre, VNISA, çocukları çevrimiçi ortamda korumaya yönelik girişimleri hayata geçirmek için devlet yönetim kurumları, uluslararası kuruluşlar ve işletmelerle birlikte çalışmaya kararlı. Dernek, son zamanlarda birçok faaliyet yürüttü.

"Siber uzayda çocukların korunmasında zorlukların üstesinden gelmenin ve verimliliği artırmanın anahtarının bağlantı ve iş birliği olduğuna inanıyoruz. VNISA, genç nesiller için gerçekten güvenli ve sürdürülebilir bir siber ortam oluşturmak amacıyla çabalarını sürdürmeyi ve yurt içi ve yurt dışı ortaklarıyla yakın iş birliği içinde çalışmayı taahhüt ediyor," diye ekledi Bay Dang Vu Son.

ChildFund Vietnam Uzmanı Do Duong Hien, yapay zekanın (YZ) çocuklar üzerindeki çevrimiçi etkisi hakkında yaptığı açıklamada, YZ'nin hızla geliştiğini, faydalar sağladığını ancak aynı zamanda internette çocuklar için birçok potansiyel risk oluşturduğunu söyledi.

"Yapay zekâ, çocukların yaratıcılığını ve inisiyatifini teşvik eder ve destekler. Üretken yapay zekâ, çocuklara kompozisyon, sanat ve müzik yoluyla kendilerini ifade etmeleri için yaratıcı araçlar sağlayabilir. Yapay zekâ, çocukların yeni alanları keşfetmelerine ve öğrenmelerine, bilgi ve becerilerini geliştirmelerine yardımcı olabilir," diyen Bay Hien, olumsuz yönleri konusunda da uyardı: "Bu, uygunsuz içerik üretme sorunudur. Platform sağlayıcılarının yapay zekâ araçları/algoritmaları, yaşa uygun olmayan ve zararlı içerikler sağlayabilir. Ayrıca, üretken yapay zekâ, çocukların bilişsel işlevlerini, davranışlarını ve gelişimlerini etkileyen yanlış bilgi veya sahte haberler oluşturmak için kullanılabilir."

Ancak yapay zekâ, çocukları korumak ve çevrimiçi içeriği izlemek için bir araç olarak da rol oynayabilir. Yapay zekâ, sosyal medya ve internet platformlarındaki taciz edici veya uygunsuz içerikleri tespit etme, kaldırma ve hızlı bir şekilde uyarma yeteneğine sahiptir. Çocuk cinsel istismarı içeriğini (CSAM) tespit etme ve bildirme: Uygulamalar ve yazılımlar, belgelerin ve CSAM içeriklerinin tespit edilmesini ve doğrudan sistem üzerinden raporlanmasını veya engellenmesini destekler. Yapay zekâ araçları, şiddet içeren davranışların tespitini destekleyebilir.

VNISA Başkan Yardımcısı, VCSC Kulübü Başkanı Sayın Ngo Tuan Anh (sağdan üçüncü).

Son zamanlarda çocukları çevrimiçi ortamda koruma faaliyetleri hakkında konuşan VNISA Başkan Yardımcısı ve VCSC Kulübü Başkanı Ngo Tuan Anh şunları söyledi: "Haziran 2024'te yayınlanan temel standart TCCS:03 VNISA, çocukları çevrimiçi ortamda korumaya yönelik ürün ve hizmet ekosisteminin gelişimine katkıda bulunan önemli bir kilometre taşıdır. Bu standart aynı zamanda, kullanıcıların ve ebeveynlerin ürün ve hizmet seçerken kendilerini daha güvende hissetmelerine yardımcı olmak için çocukları çevrimiçi ortamda korumaya yönelik ürün ve hizmetlerin kalitesinin değerlendirilmesine de katkıda bulunmaktadır. Bu, işletmelerin, kuruluşların ve çok sayıda kullanıcının çocuklarını siber alandaki tehlike ve risklerden korumak için el ele vermelerini teşvik etmek için bir temel oluşturacaktır."

World Vision International Vietnam Çocuk Koruma ve Çocuk Katılım Programı Yöneticisi Phan Thi Kim Lien, dijital ortamın çocukların gelişimi için sayısız fırsat ve risk getirdiğini belirtti. Vietnam'da her 10 çocuktan 9'u internet kullanıyor. World Vision International Vietnam, çocuklar için güvenli ve etkili bir çevrimiçi ortam oluşturma çabasıyla, çocukların hem kendilerini nasıl koruyacaklarını ve interneti yaratıcı bir şekilde nasıl kullanacaklarını öğrenmelerini hem de güvenli ve etkili bir internet ortamı oluşturmada proaktif olmalarını sağlamak için kapsamlı dijital beceri eğitim programlarına odaklanıyor.

Nguyen Duc

Kaynak: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281