AI-technologie brengt veel risico's met zich mee voor kinderen online

DNVN - De heer Do Duong Hien, een expert van ChildFund Vietnam, zei dat AI veel voordelen met zich meebrengt, maar ook veel potentiële risico's voor kinderen op het internet.

Sprekend op de workshop "Bevorderen van samenwerking bij het beschermen van kinderen in de onlineomgeving", die op 21 november in Hanoi werd georganiseerd door de Vietnam Information Security Association in samenwerking met de afdeling Informatiebeveiliging ( Ministerie van Informatie en Communicatie ), gaven deskundigen aan dat in de context van digitale technologieën die zich snel ontwikkelen en onmisbaar worden als werk- en entertainmenthulpmiddel in het dagelijks leven van ieder mens, de risico's voor de veiligheid, informatiebeveiliging en privacy ook toenemen.

Voor kinderen worden deze gevaren en risico's nog duidelijker wanneer ze niet over voldoende vaardigheden beschikken om ze te herkennen en te voorkomen. Dit zijn uitdagingen, niet alleen voor Vietnam, maar ook voor veel andere landen in de wereld . Daarom zijn de bescherming van kinderen en het versterken van de samenwerking en verbinding in cyberspace om kinderen te beschermen en te versterken, ook wereldwijd actuele kwesties.

De heer Dang Vu Son - Vice-president van VNISA.

De heer Dang Vu Son, vicevoorzitter van VNISA en voormalig hoofd van de Government Cipher Committee, zei: "In die context heeft het programma "Bescherming en ondersteuning van kinderen om gezond en creatief te interacteren in de online omgeving voor de periode 2021-2025" een drijvende kracht gecreëerd om actieve deelname van overheidsinstanties, maatschappelijke organisaties en bedrijven te bevorderen. In de praktijk zijn er echter nog steeds beperkingen in de verbinding en coördinatie tussen relevante partijen, wat de effectiviteit van kinderbescherming in cyberspace aanzienlijk beïnvloedt."

Volgens de heer Son heeft VNISA zich ingezet om samen te werken met overheidsinstanties, internationale organisaties en bedrijven om initiatieven te implementeren ter bescherming van kinderen online. De vereniging heeft de afgelopen tijd veel activiteiten ontplooid.

"Wij geloven dat verbinding en samenwerking de sleutel zijn tot het oplossen van uitdagingen en het efficiënter beschermen van kinderen in cyberspace. VNISA zet zich in om haar inspanningen voort te zetten en nauw samen te werken met binnen- en buitenlandse partners om een ​​echt veilige en duurzame cyberomgeving voor de jonge generatie te creëren", voegde de heer Dang Vu Son eraan toe.

De heer Do Duong Hien, expert bij ChildFund Vietnam, vertelde over de impact van kunstmatige intelligentie (AI) op online kinderen en zei dat AI zich sterk ontwikkelt en voordelen met zich meebrengt, maar ook veel potentiële risico's voor kinderen op internet.

"AI stimuleert en bevordert de creativiteit en het initiatief van kinderen. Generatieve AI kan kinderen creatieve tools bieden om zich uit te drukken door middel van compositie, kunst en muziek. AI kan kinderen helpen nieuwe gebieden te verkennen en te leren kennen, en hun kennis en vaardigheden te vergroten", aldus Hien, die ook waarschuwde voor de keerzijde: "Dat is het probleem van het produceren van ongepaste content. AI-tools/algoritmen van platformaanbieders kunnen leeftijdsongeschikte en schadelijke content leveren. Bovendien kan generatieve AI worden gebruikt om misinformatie of nepnieuws te creëren dat de cognitie, het gedrag en de ontwikkeling van kinderen beïnvloedt."

AI kan echter ook een rol spelen als hulpmiddel om kinderen te beschermen en online content te monitoren. AI kan aanstootgevende of ongepaste content op sociale media en internetplatforms detecteren, verwijderen en er snel voor waarschuwen. Detecteer en rapporteer content met seksueel misbruik van kinderen (CSAM): applicaties en software ondersteunen de detectie van documenten en content met seksueel misbruik van kinderen (CSAM) en rapporteren of blokkeren deze direct in het systeem. AI-tools kunnen de detectie van gewelddadig gedrag ondersteunen.

De heer Ngo Tuan Anh, vicevoorzitter van VNISA, voorzitter van VCSC Club (derde van rechts).

Sprekend over de activiteiten op het gebied van online bescherming van kinderen in de afgelopen tijd, zei de heer Ngo Tuan Anh, vicevoorzitter van VNISA en hoofd van de VCSC Club: "De basisnorm TCCS:03 VNISA, die onlangs in juni 2024 werd uitgegeven, is een belangrijke mijlpaal die bijdraagt ​​aan de promotie van het ecosysteem van producten en diensten ter bescherming van kinderen online. Deze norm draagt ​​ook bij aan de beoordeling van de kwaliteit van producten en diensten ter bescherming van kinderen online, zodat gebruikers en ouders zich veiliger voelen bij het kiezen van producten en diensten. Dit zal een uitgangspunt vormen om de deelname van bedrijven, organisaties en een groot aantal gebruikers te bevorderen om samen te werken aan de bescherming van hun kinderen tegen gevaren en risico's in cyberspace."

Mevrouw Phan Thi Kim Lien, programmamanager kinderbescherming en -participatie bij World Vision International in Vietnam, gaf aan dat de digitale omgeving talloze kansen, maar ook risico's met zich meebrengt voor de ontwikkeling van kinderen. In Vietnam gebruiken 9 van de 10 kinderen internet. Om een ​​veilige en effectieve online omgeving voor kinderen te creëren, richt World Vision International in Vietnam zich op uitgebreide programma's voor digitale vaardigheden, zodat kinderen leren hoe ze zichzelf kunnen beschermen en creatief met internet kunnen omgaan, en proactief kunnen zijn in het creëren van een veilige en effectieve internetomgeving.

Nguyen Duc

Bron: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281