Odborníci varují před riziky umělé inteligence pro děti

Aby se minimalizovala rizika vlivu umělé inteligence na děti, není nutné dětem zakazovat její používání, ale především je nutné děti vzdělávat , aby si zvýšily povědomí o rizicích a mohly se chránit v online prostředí.

Paní Dinh Thi Nhu Hoa uvedla, že aplikace integrující umělou inteligenci (AI) se stávají stále populárnějšími a mají významný dopad na děti. (Foto: NVCC)

To je názor paní Dinh Thi Nhu Hoa, vedoucí inspekčního oddělení Vietnamského centra pro reakci na kybernetické nouzové situace (VNCERT/CC), Odboru informační bezpečnosti Ministerstva informací a komunikace se světem a vietnamskými novinami, na rizika a řešení na ochranu dětí před dopady umělé inteligence.

Mnoho rizik, když jsou děti závislé na umělé inteligenci

V poslední době se aplikace integrující umělou inteligenci (AI) stávají stále populárnějšími. Mezi nimi jsou děti zranitelné vůči nástrojům AI. Máte k tomuto problému nějaká varování?

V dnešní době se aplikace integrující umělou inteligenci (AI) stávají stále populárnějšími, sdílenými a používanými mnoha lidmi. Typickými příklady jsou aplikace pro úpravu fotografií, chatovací aplikace (chatboti)... Mnoho lidí však zapomíná, že subjekty, kterým mohou nástroje AI ublížit a zanechat dlouhodobé následky, jsou děti. Děti všech věkových kategorií mají k nástrojům AI snadný přístup, ale tyto nástroje před použitím téměř nevyžadují žádný závazek.

V dnešní době mají děti snadný přístup k nástrojům umělé inteligence, ale před jejich použitím neexistují téměř žádné požadavky. Jakým rizikům podle vás čelí?

Podle statistik je míra používání internetu dětmi ve věku 12–17 let velmi vysoká, v městských oblastech dosahuje 93 % a ve venkovských oblastech 88 %. Zejména děti, které k internetu přistupují prostřednictvím chytrých telefonů, tvoří 98 %.

Podle mého názoru existují určitá rizika, která by mohla ovlivnit děti umělou inteligencí. Zaprvé , riziko přístupu k nevhodným informacím. Informace poskytované uživatelům aplikacemi integrovanými s umělou inteligencí, jako je ChatGPT, jsou agregované informace z mnoha zdrojů na internetu. Patří sem jak přesné, tak nepřesné informace. Tyto informace navíc nejsou vybírány, vyhodnocovány ani filtrovány podle věku uživatele. Vyhledávání proto může zobrazovat nepravdivé informace, nevhodný obsah nebo násilný obsah.

Za druhé , riziko úniku soukromých informací, osobních údajů dětí. Děti, které omylem sdílejí osobní údaje online, se snadno stávají oběťmi nezákonného narušení dat při používání aplikací pro úpravu fotografií a chatovacích aplikací (chatbotů).

Úterý , lákání a svádění dospívajících dívek k účasti v nebezpečných výzvách. Ve skutečnosti se vyskytly alarmující případy, kdy dospívající dívky hledaly v ChatGPT informace o zdraví a dietní plány. Umělá inteligence dokáže rychle poskytnout informace s podrobnými plány a konkrétními radami. Tyto informace se však nezakládají na žádných skutečných datech a jedná se pouze o náhodný sběr informací z internetu.

Zároveň, když jsou děti vystaveny chatbotům od tak útlého věku, zaměňují umělou inteligenci za skutečného přítele a jednají podle rad umělé inteligence, i když tyto rady mohou obsahovat zaujatý, nepřesný, škodlivý nebo zavádějící obsah.

Za čtvrté, dopad na dětskou psychologii, fyziologii a chování. S pomocí nástrojů umělé inteligence mohou uživatelé najít informace o jakémkoli tématu pouze jednou otázkou. Chatboti s umělou inteligencí usnadnili navigaci v informacích, aniž by bylo nutné otevírat desítky různých webových stránek a číst nespočet článků za účelem shromáždění informací.

Přílišná interakce s technologickými stroji tak může vést k depresi, úzkosti nebo ztrátě sociálních dovedností v důsledku menší interakce s ostatními. Nadměrné spoléhání se dětí na umělou inteligenci navíc snižuje jejich schopnost učit se a pracovat proaktivně.

Přílišná závislost dětí na umělé inteligenci snižuje jejich schopnost učit se a pracovat proaktivně. (Zdroj: Internet)

Pomozte dětem chovat se online slušně a laskavě

Jaké je podle vás udržitelné řešení pro minimalizaci dopadů nástrojů umělé inteligence na děti?

Podle zprávy UNICEF z roku 2022 23 % dětí uvedlo, že někdy omylem viděly citlivé obrázky nebo videa inzerovaná online. Pornografický obsah je ve skutečnosti všude, takže blokování pornografických webových stránek není dostatečné a je neúčinné. Děti potřebují silný a účinný nástroj k filtrování online obsahu, který jim pomůže nebýt „vystaveny“ škodlivým a toxickým informacím.

Aby se minimalizovala rizika ovlivnění dětí umělou inteligencí, není nutné dětem zakazovat její používání, ale co je nejdůležitější, je nutné je vzdělávat, aby si zvýšily povědomí o rizicích a chránily se online. Podle mého názoru existují určité principy, které dětem pomáhají zůstat online v bezpečí, a to principy 4T: Dodržování předpisů - Inteligence - Opatrnost a Laskavost.

Zaprvé, dodržujte pravidla používání internetu stanovená poskytovatelem služeb a samotnou školou. Dodržujte zákony, například pravidla komunity některých aplikací umělé inteligence, které nejsou určeny pro děti mladší 13 let.

Za druhé, vybavení znalostmi a dovednostmi pro účast v prostředí inteligentních sítí, jako jsou dovednosti v poskytování osobních údajů v síťovém prostředí, dovednosti v bezpečném používání sociálních sítí a správa hesel pro zajištění bezpečnosti.

Za třetí, buďte opatrní se svými online přáteli, protože se na vás mohou tvářit lidé, kteří se k vám snaží přiblížit, buďte opatrní při přístupu na podezřelé odkazy, buďte opatrní při narážení na neuvěřitelně atraktivní nabídky, buďte opatrní při poskytování informací online, včetně chatovacích schránek... abyste minimalizovali rizika spojená s online podvody. A konečně, buďte v online prostředí civilizovaní a laskaví, neposílejte ani nereagujte na zprávy se špatným obsahem nebo zprávy, které urážejí ostatní.

Jak by se měli rodiče chovat jako „strážci brány“ v kyberprostoru pro své děti?

Rodiče mohou použít některé technologické nástroje, které pomáhají blokovat nevhodné informace pro děti, jako například Cyberpurify kid, Safe Gate Family, BKAV safe kid, Mobile Guard for Kid, Safe Zone atd.

Kromě toho musí rodiče stanovit pravidla pro používání počítačů a síťových zařízení pro své děti. Pravidla se liší pro každý věk. Dovolte dětem používat sociální sítě pouze tehdy, když jsou dostatečně staré na to, aby je používaly v souladu s doporučenými zásadami komunity platforem sociálních sítí.

Zejména by rodiče měli vždy věnovat pozornost a pečlivě sledovat online obsah, ke kterému jejich děti na internetu přistupují. Poskytněte rodinám řešení informační bezpečnosti, jako je antivirový a antivirový software, řešení pro blokování škodlivých informací a produkty pro monitorování a blokování škodlivých informací, když k nim děti přistupují.

Děkuju!

Vietnam a další země ASEAN se v roce 2019 dohodly na přijetí Deklarace o ochraně dětí před všemi formami online vykořisťování a zneužívání v ASEAN a poté v roce 2021 přijaly Deklaraci o odstranění šikany v ASEAN, včetně online šikany.

Zdroj