Výhody a rizika používání chatbotů s umělou inteligencí u dětí

SGGPO 24. října 2023 17:11

Přestože chatboti s umělou inteligencí mají mnoho významných výhod, aniž by si uživatelé byli vědomi potenciálních rizik, která tyto nástroje představují pro děti, čelí většímu riziku ztráty osobních údajů, ohrožení života a nevhodného obsahu.

Rodiče by měli děti učit bezpečně používat internet.

Učení je nyní efektivnější než kdy dříve s pomocí nástrojů umělé inteligence. Uživatelé mohou najít užitečné informace o jakémkoli tématu na světě pouhým slovem s chatbotem s umělou inteligencí.

V této souvislosti mají děti všech věkových kategorií po celém světě přístup k nástrojům umělé inteligence, ale tyto nástroje vyžadují před použitím jen malý nebo žádný souhlas.

Chatboti s umělou inteligencí usnadnili navigaci v informacích bez nutnosti otevírat desítky záložek a číst nespočet článků. Pro děti je to obzvláště důležité s ohledem na jejich zvědavost a umělá inteligence jim může pomoci lépe se zapojit do učení.

Umělá inteligence navíc poskytuje platformu, která dětem umožňuje zdokonalovat si jazykové dovednosti a volně diskutovat bez časového omezení, což s sebou však nese i určitá rizika.

V souvislosti s online obsahem poukázala pan Noura Afaneh, analytik webového obsahu ve společnosti Kaspersky, na určitá rizika spojená s používáním chatbotů s umělou inteligencí. Mezi nimi ChatGPT, který sice dosáhl rekordního počtu uživatelů s nejrychleji rostoucím počtem, ale neověřuje jejich věk, což ohrožuje soukromí dětí.

Navíc obsah poskytovaný ChatGPT někdy není zcela přesný a může snadno vést uživatele k obdržení nepravdivých informací. To zahrnuje falešné odkazy a neexistující články, což také přispívá k tomu, že se ChatGPT pro některé studenty stává nástrojem pro plagiátorství.

Chatbot „My AI“ od Snapchatu je navíc oblíbený i mezi dětmi, protože aplikace umožňuje uživatelům již od 13 let ji používat bez rodičovské kontroly, což vyvolává otázky ohledně soukromí dětí a uchovávání jejich dat aplikací, uvedla jako příklad Noura Afaneh.

Jedním z rizik je, že si děti umělou inteligenci spletou se skutečným přítelem a budou se řídit jejími radami, které „mohou obsahovat zaujatý, nepřesný, škodlivý nebo zavádějící obsah“.

Jako rodiče je důležité si uvědomit, že zákaz používání těchto chatbotů s umělou inteligencí není vždy nejlepším způsobem, jak chránit děti, protože děti mohou být neustále vystaveny novému online obsahu, takže rodiče musí hrát aktivní roli při vyvažování výše uvedených rizik a pracovat na jejich zmírnění.

Tipy pro rodiče, jak minimalizovat rizika spojená s chatboty s umělou inteligencí:

• Učte děti o bezpečnosti na internetu: Učení dětí o bezpečnosti a soukromí na internetu je účinný způsob, jak zabránit sdílení osobních údajů s cizími lidmi, a to i s chatboty.

• Vyzkoušejte si chatbota s umělou inteligencí se svými dětmi: Kaspersky povzbuzuje rodiče, aby své děti vedli k jeho používání a aby je informovali o tom, jaké otázky by se chatbotovi s umělou inteligencí měly a neměly klást.

• Monitorování, správa a nastavování soukromí: Jedním z nejúčinnějších nástrojů online ochrany pro rodiče je komplexní bezpečnostní řešení. Rodičovské aplikace pro technologický věk navíc poskytují tolik potřebné zdroje pro ochranu dětí online.

Zdroj