AI-tekniken utgör många risker för barn online

DNVN - Mr. Do Duong Hien - en expert från ChildFund Vietnam, sa att AI medför många fördelar men också utgör många potentiella risker för barn på internet.

Vid workshopen "Främja samarbete för att skydda barn i onlinemiljön", organiserad av Vietnams informationssäkerhetsförening i samarbete med informationssäkerhetsdepartementet ( informations- och kommunikationsministeriet ) den 21 november i Hanoi, kommenterade experter att riskerna för säkerhet, informationssäkerhet och integritet också ökar i samband med att digital teknik utvecklas starkt och blir ett oumbärligt arbets- och underhållningsverktyg i varje persons vardag.

För barn blir dessa faror och risker ännu tydligare när barn inte har tillräckliga färdigheter för att identifiera och förebygga dem. Detta är utmaningar inte bara för Vietnam utan även för många andra länder i världen . Därför är skydd av barn och stärkt samarbete och kontakter i cyberrymden för att skydda och stärka barn också frågor som tas upp globalt.

Mr. Dang Vu Son - Vice President för VNISA.

Herr Dang Vu Son - vice ordförande för VNISA, tidigare chef för regeringens krypteringskommitté, sa: I det sammanhanget har programmet "Att skydda och stödja barn att interagera hälsosamt och kreativt i onlinemiljön för perioden 2021-2025" skapat en drivkraft för att främja aktivt deltagande från statliga myndigheter, sociala organisationer och företag. I praktiken finns det dock fortfarande begränsningar i att koppla samman och samordna mellan relevanta parter, vilket avsevärt påverkar effektiviteten i barnskyddsarbetet i cyberrymden.

Enligt Son har VNISA engagerat sig i att samarbeta med statliga förvaltningsmyndigheter, internationella organisationer och företag för att genomföra initiativ för att skydda barn online. På senare tid har föreningen genomfört många aktiviteter.

”Vi tror att kontakt och samarbete är nyckeln till att lösa utmaningar och öka effektiviteten i skyddet av barn i cyberrymden. VNISA åtar sig att fortsätta sina ansträngningar och nära samordna med inhemska och utländska partners för att bygga en verkligt säker och hållbar cybermiljö för den unga generationen”, tillade Dang Vu Son.

Do Duong Hien, expert från ChildFund Vietnam, berättade om artificiell intelligens (AI) inverkan på barn online och sa att AI är under stark utveckling, vilket medför fördelar men också innebär många potentiella risker för barn på internet.

”AI uppmuntrar och främjar barns kreativitet och initiativförmåga. Generativ AI kan ge barn kreativa verktyg för att uttrycka sig genom komposition, konst och musik. AI kan hjälpa barn att utforska och lära sig om nya områden, utöka sina kunskaper och färdigheter”, nämnde Hien, samtidigt som han varnade för nackdelarna: ”Det är problemet med att producera olämpligt innehåll. AI-verktyg/algoritmer från plattformsleverantörer kan tillhandahålla åldersopassande och skadligt innehåll. Dessutom kan generativ AI användas för att skapa felinformation eller falska nyheter som påverkar barns kognition och beteende samt deras utveckling.”

AI kan dock också spela en roll som ett verktyg för att skydda barn och övervaka onlineinnehåll. AI har förmågan att upptäcka, ta bort och snabbt varna för kränkande eller olämpligt innehåll på sociala medier och internetplattformar. Upptäck och rapportera innehåll med sexuella övergrepp mot barn (CSAM): applikationer och programvara stöder upptäckt av dokument, CSAM-innehåll och rapporterar eller blockerar direkt i systemet. AI-verktyg kan stödja upptäckt av våldsamt beteende.

Herr Ngo Tuan Anh, vice ordförande för VNISA, ordförande för VCSC Club (tredje från höger).

Ngo Tuan Anh, vice ordförande för VNISA och chef för VCSC Club, sa följande om de senaste aktiviteterna för att skydda barn online: ”Grundstandarden TCCS:03 VNISA, som utfärdades i juni 2024, är en viktig milstolpe som bidrar till att främja ekosystemet av produkter och tjänster för att skydda barn online. Denna standard bidrar också till att bedöma kvaliteten på produkter och tjänster för att skydda barn online för att hjälpa användare och föräldrar att känna sig säkrare när de väljer produkter och tjänster. Detta kommer att vara en förutsättning för att främja deltagandet av företag, organisationer samt ett stort antal användare för att samarbeta för att skydda sina barn från faror och risker i cyberrymden.”

Phan Thi Kim Lien, programchef för barnskydd och barns deltagande på World Vision International i Vietnam, uttryckte att den digitala miljön medför otaliga möjligheter såväl som risker för barns utveckling. I Vietnam använder 9 av 10 barn internet. I ett försök att bygga en säker och effektiv onlinemiljö för barn fokuserar World Vision International i Vietnam på omfattande utbildningsprogram i digitala färdigheter så att barn både kan veta hur de ska skydda sig själva och använda internet kreativt, samt vara proaktiva i att bygga en säker och effektiv internetmiljö.

Nguyen Duc

Källa: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281