Technologie umělé inteligence představuje pro děti online mnoho rizik

DNVN - Pan Do Duong Hien - expert z ChildFund Vietnam, uvedl, že umělá inteligence přináší mnoho výhod, ale také představuje mnoho potenciálních rizik pro děti na internetu.

Na workshopu „Podpora spolupráce při ochraně dětí v online prostředí“, který uspořádala Vietnamská asociace pro informační bezpečnost ve spolupráci s Ministerstvem informační bezpečnosti ( Ministerstvo informací a komunikací ) 21. listopadu v Hanoji, experti poznamenali, že v kontextu silného rozvoje digitálních technologií, které se stávají nepostradatelným pracovním a zábavním nástrojem v každodenním životě každého člověka, rostou i rizika pro bezpečnost, informační bezpečnost a soukromí.

Pro děti jsou tato nebezpečí a rizika ještě zřetelnější, pokud nemají dostatek dovedností k jejich rozpoznání a prevenci. To jsou výzvy nejen pro Vietnam, ale i pro mnoho dalších zemí světa . Proto je ochrana dětí a posílení spolupráce a propojení v kyberprostoru s cílem chránit a posilovat postavení dětí také celosvětově problematikou.

Pan Dang Vu Son - viceprezident VNISA.

Pan Dang Vu Son - viceprezident VNISA, bývalý předseda vládního šifrovacího výboru, uvedl: „V této souvislosti program „Ochrana a podpora dětí, aby mohly zdravě a kreativně interagovat v online prostředí v období 2021–2025“ vytvořil hnací sílu pro podporu aktivní účasti státních orgánů, sociálních organizací a podniků. V praxi však stále existují omezení v propojování a koordinaci mezi příslušnými stranami, což významně ovlivňuje efektivitu práce na ochraně dětí v kyberprostoru.“

Podle pana Sona se VNISA zavázala ke spolupráci se státními orgány, mezinárodními organizacemi a podniky na realizaci iniciativ na ochranu dětí online. V poslední době asociace realizovala mnoho aktivit.

„Věříme, že propojení a spolupráce jsou klíčem k řešení problémů a dosažení větší efektivity při ochraně dětí v kyberprostoru. VNISA se zavázala pokračovat ve svém úsilí a úzce spolupracovat s domácími i zahraničními partnery na vybudování skutečně bezpečného a udržitelného kybernetického prostředí pro mladou generaci,“ dodal pan Dang Vu Son.

Pan Do Duong Hien, expert z ChildFund Vietnam, hovořil o dopadu umělé inteligence (AI) na děti online a uvedl, že AI se silně rozvíjí, přináší výhody, ale také představuje mnoho potenciálních rizik pro děti na internetu.

„Umělá inteligence podporuje a podporuje dětskou kreativitu a iniciativu. Generativní umělá inteligence může dětem poskytnout kreativní nástroje k sebevyjádření prostřednictvím kompozice, umění a hudby. Umělá inteligence může dětem pomoci prozkoumávat a učit se o nových oblastech, rozšiřovat si znalosti a dovednosti,“ zmínil pan Hien a zároveň varoval před nevýhodou: „Tou je problém produkce nevhodného obsahu. Nástroje/algoritmy umělé inteligence poskytovatelů platforem mohou poskytovat věkově nevhodný a škodlivý obsah. Generativní umělá inteligence může být navíc použita k vytváření dezinformací nebo falešných zpráv, které ovlivňují poznávání a chování dětí, stejně jako jejich vývoj.“

Umělá inteligence však může hrát také roli nástroje k ochraně dětí a monitorování online obsahu. Umělá inteligence má schopnost detekovat, odstraňovat a rychle varovat před urážlivým nebo nevhodným obsahem na sociálních sítích a internetových platformách. Detekce a hlášení obsahu sexuálního zneužívání dětí (CSAM): aplikace a software podporují detekci dokumentů, obsahu CSAM a hlášení nebo blokování přímo v systému. Nástroje umělé inteligence mohou podporovat detekci násilného chování.

Pan Ngo Tuan Anh, viceprezident VNISA, předseda klubu VCSC (třetí zprava).

Pan Ngo Tuan Anh, viceprezident VNISA a předseda klubu VCSC, hovořil o aktivitách v oblasti ochrany dětí online v poslední době: „Základní norma TCCS:03 VNISA, která byla právě vydána v červnu 2024, je důležitým milníkem, který přispívá k podpoře ekosystému produktů a služeb na ochranu dětí online. Tato norma také přispívá k hodnocení kvality produktů a služeb na ochranu dětí online, aby pomohla uživatelům a rodičům cítit se bezpečněji při výběru produktů a služeb. To bude předpoklad pro podporu účasti podniků, organizací a velkého počtu uživatelů, kteří se spojí a ochrání své děti před nebezpečími a riziky v kyberprostoru.“

Paní Phan Thi Kim Lien - manažerka programu ochrany dětí a dětské participace organizace World Vision International ve Vietnamu, uvedla, že digitální prostředí přináší nespočet příležitostí, ale i rizik pro vývoj dětí. Ve Vietnamu používá internet 9 z 10 dětí. Ve snaze vybudovat bezpečné a efektivní online prostředí pro děti se World Vision International ve Vietnamu zaměřuje na komplexní program vzdělávání v oblasti digitálních dovedností, aby se děti naučily chránit samy, kreativně používat internet a proaktivně budovat bezpečné a efektivní internetové prostředí.

Nguyen Duc

Zdroj: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281