Technologie umělé inteligence představuje pro děti online mnoho potenciálních rizik.

DNVN - Pan Do Duong Hien, expert z ChildFund Vietnam, se domnívá, že umělá inteligence přináší mnoho výhod, ale také představuje řadu rizik pro děti v online prostoru.

Na workshopu „Posílení spolupráce na ochranu dětí v online prostředí“, který uspořádala Vietnamská asociace pro informační bezpečnost ve spolupráci s odborem informační bezpečnosti ( Ministerstvo informací a komunikací ) 21. listopadu v Hanoji, odborníci poznamenali, že v kontextu rychlého rozvoje digitálních technologií a jejich nepostradatelné role jako nástrojů pro práci a zábavu v každodenním životě rostou také rizika pro informační bezpečnost, soukromí a ochranu údajů.

Pro děti jsou tato rizika ještě zřetelnější, protože jim chybí dovednosti, jak je identifikovat a vyhnout se jim. To jsou výzvy nejen pro Vietnam, ale i pro mnoho dalších zemí světa . Ochrana dětí a posilování spolupráce a propojení v kyberprostoru s cílem je chránit a posilovat jejich postavení jsou proto globálními otázkami.

Pan Dang Vu Son – viceprezident VNISA.

Pan Dang Vu Son – místopředseda VNISA, bývalý předseda vládního šifrovacího výboru, uvedl: „V této souvislosti program ‚Ochrana a podpora zdravé a kreativní interakce dětí v online prostředí, 2021–2025‘ vytvořil impuls k podpoře aktivní účasti státních orgánů, sociálních organizací a podniků. V praxi však stále existují omezení v propojování a koordinaci mezi příslušnými stranami, což významně ovlivňuje účinnost ochrany dětí v kyberprostoru.“

Podle pana Sona se VNISA odhodlávala a nadále odhodlává spolupracovat se státními orgány, mezinárodními organizacemi a podniky na realizaci iniciativ na ochranu dětí v online prostředí. V uplynulém období asociace realizovala řadu aktivit.

„Věříme, že propojení a spolupráce jsou klíčem k řešení problémů a dosažení větší efektivity při ochraně dětí v kyberprostoru. VNISA se zavázala pokračovat ve svém úsilí a úzce spolupracovat s domácími i mezinárodními partnery na společném budování skutečně bezpečného a udržitelného online prostředí pro mladší generaci,“ dodal pan Dang Vu Son.

Pan Do Duong Hien, expert z ChildFund Vietnam, se podělil o své názory na dopad umělé inteligence (AI) na děti online a uvedl, že AI se rychle rozvíjí, přináší výhody, ale také představuje mnoho potenciálních rizik pro děti na internetu.

„Umělá inteligence podporuje a podporuje dětskou kreativitu a iniciativu. Generování umělé inteligence může dětem poskytnout kreativní nástroje k sebevyjádření prostřednictvím kompozice, umění a hudby. Umělá inteligence může dětem pomoci objevovat a učit se v nových oblastech, rozšiřovat jejich znalosti a dovednosti,“ zmínil pan Hien a zároveň varoval před stinnou stránkou: „Tou je problém produkce nevhodného obsahu. Nástroje/algoritmy umělé inteligence od poskytovatelů platforem mohou poskytovat věkově nevhodný a škodlivý obsah. Generování umělé inteligence může být navíc použito k vytváření dezinformací nebo falešných zpráv, které ovlivňují vnímání, chování a vývoj dětí.“

Umělá inteligence však může hrát také roli nástroje pro ochranu dětí a monitorování online obsahu. Umělá inteligence má schopnost detekovat, odstraňovat a rychle varovat před škodlivým nebo nevhodným obsahem na sociálních sítích a internetových platformách. Dokáže detekovat a hlásit obsah týkající se sexuálního zneužívání dětí (CSAM): aplikace a software mohou pomoci detekovat materiál a obsah CSAM a nahlásit nebo blokovat jej přímo v systému. Nástroje umělé inteligence mohou také pomoci při odhalování násilného chování.

Pan Ngo Tuan Anh, viceprezident VNISA, vedoucí klubu VCSC (třetí zprava).

Když hovořil o nedávných aktivitách na ochranu dětí online, pan Ngo Tuan Anh, viceprezident VNISA a vedoucí klubu VCSC, uvedl: „Norma VNISA TCCS:03, vydaná v červnu 2024, je důležitým milníkem, který přispívá k podpoře ekosystému produktů a služeb na ochranu dětí online. Tato norma také pomáhá hodnotit kvalitu produktů a služeb na ochranu dětí v online prostředí a pomáhá uživatelům a rodičům cítit se bezpečněji při výběru produktů a služeb. Bude to základ pro povzbuzení účasti podniků, organizací a velkého počtu uživatelů, aby spolupracovali na ochraně svých dětí před riziky a nebezpečími v kyberprostoru.“

Paní Phan Thi Kim Lien, programová manažerka pro ochranu dětí a podporu participace ve společnosti World Vision International ve Vietnamu, uvedla, že digitální prostředí představuje pro vývoj dětí řadu příležitostí i rizik. Ve Vietnamu používá internet 9 z 10 dětí. Ve snaze vybudovat bezpečné a efektivní online prostředí pro děti se organizace World Vision International ve Vietnamu zaměřuje na komplexní programy vzdělávání v oblasti digitálních dovedností, aby se děti mohly chránit samy a kreativně používat internet, a také aby proaktivně přispívaly k budování bezpečného a efektivního online prostředí.

Nguyen Duc

Zdroj: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281