Teknologi AI menimbulkan banyak risiko kepada kanak-kanak dalam talian

DNVN - Encik Do Duong Hien - pakar dari ChildFund Vietnam, berkata AI membawa banyak faedah tetapi juga menimbulkan banyak potensi risiko kepada kanak-kanak di internet.

Bercakap di bengkel "Menggalakkan kerjasama dalam melindungi kanak-kanak dalam persekitaran dalam talian" yang dianjurkan oleh Persatuan Keselamatan Maklumat Vietnam dengan penyelarasan dengan Jabatan Keselamatan Maklumat ( Kementerian Penerangan dan Komunikasi ) pada 21 November di Hanoi, pakar mengulas bahawa dalam konteks teknologi digital berkembang dengan kukuh dan menjadi alat kerja dan hiburan yang sangat diperlukan dalam kehidupan seharian setiap orang, risiko kepada keselamatan maklumat juga meningkatkan keselamatan maklumat.

Bagi kanak-kanak, bahaya dan risiko ini menjadi lebih jelas apabila kanak-kanak tidak mempunyai kemahiran yang mencukupi untuk mengenal pasti dan mencegahnya. Ini adalah cabaran bukan sahaja untuk Vietnam tetapi juga untuk banyak negara lain di dunia . Oleh itu, melindungi kanak-kanak dan mengukuhkan kerjasama dan hubungan di alam siber untuk melindungi dan memperkasakan kanak-kanak juga merupakan isu yang dibangkitkan di peringkat global.

Encik Dang Vu Son - Naib Presiden VNISA.

Encik Dang Vu Son - Naib Presiden VNISA, Bekas Ketua Jawatankuasa Sifir Kerajaan berkata: Dalam konteks itu, program "Melindungi dan menyokong kanak-kanak berinteraksi secara sihat dan kreatif dalam persekitaran dalam talian untuk tempoh 2021 - 2025" telah mewujudkan daya penggerak untuk menggalakkan penyertaan aktif daripada agensi negeri, organisasi sosial dan perniagaan. Walau bagaimanapun, secara praktiknya, masih terdapat batasan dalam menghubungkan dan menyelaras antara pihak yang berkaitan, dengan ketara menjejaskan keberkesanan kerja perlindungan kanak-kanak di alam siber".

Menurut Encik Son, VNISA telah komited untuk bekerjasama dengan agensi pengurusan Negeri, organisasi antarabangsa dan perniagaan untuk melaksanakan inisiatif untuk melindungi kanak-kanak dalam talian. Sejak kebelakangan ini, Persatuan telah menjalankan banyak aktiviti.

"Kami percaya bahawa hubungan dan kerjasama adalah kunci untuk menyelesaikan cabaran dan membawa kecekapan yang lebih besar dalam melindungi kanak-kanak di alam siber. VNISA komited untuk meneruskan usahanya dan menyelaras rapat dengan rakan kongsi dalam dan luar negara untuk membina persekitaran siber yang benar-benar selamat dan mampan untuk generasi muda," tambah Encik Dang Vu Son.

Berkongsi tentang kesan kecerdasan buatan (AI) terhadap kanak-kanak dalam talian, Encik Do Duong Hien - Pakar dari ChildFund Vietnam berkata bahawa AI berkembang dengan kukuh, membawa manfaat tetapi juga menimbulkan banyak potensi risiko kepada kanak-kanak di internet.

"AI menggalakkan dan menggalakkan kreativiti dan inisiatif kanak-kanak. AI Generatif boleh menyediakan kanak-kanak dengan alat kreatif untuk mengekspresikan diri mereka melalui gubahan, seni dan muzik. AI boleh membantu kanak-kanak meneroka dan belajar tentang bidang baharu, mengembangkan pengetahuan dan kemahiran mereka," En. Hien menyebut, sambil memberi amaran tentang keburukan: "Itulah masalah menghasilkan kandungan yang tidak sesuai. Alat/algoritma AI bagi penyedia platform yang memudaratkan boleh menyediakan kandungan yang tidak sesuai dengan umur. Selain itu, AI boleh menyediakan kandungan yang tidak sesuai dengan umur. digunakan untuk mencipta maklumat salah atau berita palsu yang menjejaskan kognisi dan tingkah laku kanak-kanak serta perkembangan mereka."

Walau bagaimanapun, AI juga boleh memainkan peranan sebagai alat untuk melindungi kanak-kanak dan memantau kandungan dalam talian. AI mempunyai keupayaan untuk mengesan, mengalih keluar dan memberi amaran dengan cepat tentang kandungan yang kesat atau tidak sesuai di media sosial dan platform internet. Kesan dan laporkan kandungan penderaan seksual kanak-kanak (CSAM): aplikasi dan perisian menyokong pengesanan dokumen, kandungan CSAM dan melaporkan atau menyekat terus pada sistem. Alat AI boleh menyokong pengesanan tingkah laku ganas.

Encik Ngo Tuan Anh, Naib Presiden VNISA, Pengerusi Kelab VCSC (tiga dari kanan).

Bercakap tentang aktiviti melindungi kanak-kanak dalam talian sejak kebelakangan ini, Encik Ngo Tuan Anh, Naib Presiden VNISA, Ketua Kelab VCSC berkata: "Piawaian asas TCCS:03 VNISA, yang baru dikeluarkan pada Jun 2024, merupakan satu peristiwa penting yang menyumbang kepada mempromosikan ekosistem produk dan perkhidmatan untuk melindungi kanak-kanak dalam talian. Piawaian ini juga menyumbang untuk melindungi produk dan menilai lebih banyak produk dalam talian untuk kanak-kanak dan menilai kualiti produk dalam talian. dan perkhidmatan ini akan menjadi premis untuk menggalakkan penyertaan perniagaan, organisasi serta sejumlah besar pengguna untuk berganding bahu dalam melindungi anak-anak mereka daripada bahaya dan risiko di alam siber”.

Cik Phan Thi Kim Lien - Pengurus Program Perlindungan Kanak-kanak dan Penyertaan Kanak-kanak, World Vision International di Vietnam, menyatakan bahawa persekitaran digital membawa banyak peluang serta risiko kepada perkembangan kanak-kanak. Di Vietnam, 9 daripada 10 kanak-kanak menggunakan internet. Dalam usaha membina persekitaran dalam talian yang selamat dan berkesan untuk kanak-kanak, World Vision International di Vietnam menumpukan pada program pendidikan kemahiran digital yang komprehensif supaya kanak-kanak boleh sama-sama tahu cara melindungi diri mereka dan menggunakan internet secara kreatif serta proaktif dalam membina persekitaran internet yang selamat dan berkesan.

Nguyen Duc

Sumber: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281