AI-teknologi utgjør mange risikoer for barn på nett

DNVN – Mr. Do Duong Hien – en ekspert fra ChildFund Vietnam, sa at AI gir mange fordeler, men også utgjør mange potensielle risikoer for barn på internett.

Ekspertene talte på workshopen «Fremme samarbeid for å beskytte barn i nettmiljøet» organisert av Vietnams informasjonssikkerhetsforening i samarbeid med departementet for informasjonssikkerhet ( informasjons- og kommunikasjonsdepartementet ) 21. november i Hanoi. De kommenterte at i en sammenheng med at digitale teknologier utvikler seg sterkt og blir et uunnværlig arbeids- og underholdningsverktøy i hverdagen til hver enkelt person, øker også risikoen for sikkerhet, informasjonssikkerhet og personvern.

For barn blir disse farene og risikoene enda tydeligere når de ikke har nok ferdigheter til å identifisere og forebygge dem. Dette er utfordringer ikke bare for Vietnam, men også for mange andre land i verden . Derfor er det å beskytte barn og styrke samarbeid og forbindelser i cyberspace for å beskytte og myndiggjøre barn også temaer som tas opp globalt.

Mr. Dang Vu Son - visepresident i VNISA.

Dang Vu Son – visepresident i VNISA og tidligere leder av regjeringens krypteringskomité, sa: I den sammenhengen har programmet «Beskyttelse og støtte for barn til å samhandle sunt og kreativt i nettmiljøet for perioden 2021–2025» skapt en drivkraft for å fremme aktiv deltakelse fra statlige etater, sosiale organisasjoner og bedrifter. I praksis er det imidlertid fortsatt begrensninger i tilkoblingen og koordineringen mellom relevante parter, noe som påvirker effektiviteten av barnevernarbeidet i cyberspace betydelig.

Ifølge Son har VNISA vært forpliktet til å samarbeide med statlige forvaltningsorganer, internasjonale organisasjoner og bedrifter for å implementere initiativer for å beskytte barn på nett. I den senere tid har foreningen gjennomført mange aktiviteter.

«Vi tror at tilknytning og samarbeid er nøkkelen til å løse utfordringer og øke effektiviteten i beskyttelsen av barn i cyberspace. VNISA forplikter seg til å fortsette sin innsats og koordinere tett med innenlandske og utenlandske partnere for å bygge et virkelig trygt og bærekraftig cybermiljø for den unge generasjonen», la Dang Vu Son til.

Do Duong Hien, ekspert fra ChildFund Vietnam, sa at AI er i sterk utvikling og bringer fordeler, men også utgjør mange potensielle risikoer for barn på internett, da han snakket om virkningen av kunstig intelligens (KI) på barn på nett.

«KI oppmuntrer og fremmer barns kreativitet og initiativ. Generativ KI kan gi barn kreative verktøy for å uttrykke seg gjennom komposisjon, kunst og musikk. KI kan hjelpe barn med å utforske og lære om nye felt, utvide kunnskapen og ferdighetene sine», nevnte Hien, samtidig som han advarte om ulempene: «Det er problemet med å produsere upassende innhold. KI-verktøy/algoritmer fra plattformleverandører kan gi aldersupassende og skadelig innhold. I tillegg kan generativ KI brukes til å lage feilinformasjon eller falske nyheter som påvirker barns kognisjon og atferd, samt deres utvikling.»

AI kan imidlertid også spille en rolle som et verktøy for å beskytte barn og overvåke innhold på nett. AI har evnen til å oppdage, fjerne og raskt advare om krenkende eller upassende innhold på sosiale medier og internettplattformer. Oppdage og rapportere innhold med seksuelt misbruk av barn (CSAM): applikasjoner og programvare støtter deteksjon av dokumenter, CSAM-innhold og rapportering eller blokkering direkte på systemet. AI-verktøy kan støtte deteksjon av voldelig atferd.

Herr Ngo Tuan Anh, visepresident i VNISA, styreleder i VCSC Club (tredje fra høyre).

Ngo Tuan Anh, visepresident i VNISA og leder for VCSC Club, sa følgende om aktivitetene for å beskytte barn på nett den siste tiden: «Grunnstandarden TCCS:03 VNISA, som ble utstedt i juni 2024, er en viktig milepæl som bidrar til å fremme økosystemet av produkter og tjenester for å beskytte barn på nett. Denne standarden bidrar også til å vurdere kvaliteten på produkter og tjenester for å beskytte barn på nett, slik at brukere og foreldre føler seg tryggere når de velger produkter og tjenester. Dette vil være en forutsetning for å fremme deltakelse fra bedrifter, organisasjoner og et stort antall brukere for å samarbeide om å beskytte barna sine mot farer og risikoer i cyberspace.»

Fru Phan Thi Kim Lien – programleder for barnevern og barns medvirkning ved World Vision International i Vietnam, uttrykte at det digitale miljøet bringer utallige muligheter så vel som risikoer for barns utvikling. I Vietnam bruker 9 av 10 barn internett. I et forsøk på å bygge et trygt og effektivt nettmiljø for barn, fokuserer World Vision International i Vietnam på omfattende opplæringsprogrammer for digitale ferdigheter, slik at barn både kan vite hvordan de kan beskytte seg selv og bruke internett kreativt, samt være proaktive i å bygge et trygt og effektivt nettmiljø.

Nguyen Duc

Kilde: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281