Výhody a rizika používání chatbotů s umělou inteligencí u dětí.

SGGPO 24. října 2023 17:11

Přestože chatboti s umělou inteligencí nabízejí mnoho významných výhod, bez povědomí o potenciálních rizicích, která tyto nástroje pro děti představují, čelí uživatelé většímu riziku ztráty osobních údajů, ohrožení života a přístupu k nevhodnému obsahu.

Rodiče by měli dětem vysvětlovat, jak bezpečně používat internet.

Učení je nyní efektivnější než kdy dříve s pomocí nástrojů umělé inteligence. Uživatelé mohou najít užitečné informace o jakémkoli tématu na světě jediným příkazem od chatbota s umělou inteligencí.

V této souvislosti získávají děti všech věkových kategorií po celém světě přístup k nástrojům umělé inteligence, přestože tyto nástroje před použitím vyžadují jen minimální nebo žádný souhlas.

Chatboti s umělou inteligencí usnadnili navigaci v informacích, aniž by bylo nutné otevírat desítky záložek nebo číst nespočet článků, a pro děti je to obzvláště důležité vzhledem k jejich zvědavosti a umělá inteligence jim může pomoci lépe interagovat při učení.

Umělá inteligence navíc poskytuje platformu, která dětem umožňuje zdokonalovat si jazykové dovednosti a zapojit se do volných diskusí bez časového omezení; to však s sebou nese i určitá rizika.

V souvislosti s online obsahem poukázala Noura Afaneh, webová analytička obsahu ve společnosti Kaspersky, na několik rizik spojených s používáním chatbotů s umělou inteligencí. Mezi nimi ChatGPT, který sice dosáhl rekordu v nejrychleji rostoucí uživatelské základně, ale neověřuje věk uživatelů, což představuje hrozbu pro soukromí dětí.

Obsah poskytovaný ChatGPT je navíc někdy nepřesný a může snadno uvést uživatele v omyl. Patří sem padělané odkazy a neexistující články, což přispělo k tomu, že se ChatGPT stal pro některé studenty nástrojem pro plagiátorství.

Chatbot „My AI“ od Snapchatu je navíc hojně využíván dětmi, protože aplikace umožňuje uživatelům již od 13 let jej používat bez dohledu rodičů, což vyvolává otázky ohledně soukromí dětí a uchovávání dat v aplikaci, uvedla jako příklad Noura Afaneh.

Jedním z rizik je, že si děti zamění umělou inteligenci za skutečného přítele a budou se řídit radami umělé inteligence, a tyto rady „mohou obsahovat zaujatý, nepřesný, škodlivý nebo zavádějící obsah“.

Jako rodiče je důležité si uvědomit, že zákaz používání tohoto chatbota s umělou inteligencí není vždy nejlepším způsobem, jak chránit děti, protože mají neustále přístup k novému obsahu online. Rodiče proto musí hrát aktivní roli při vyvažování těchto rizik a pracovat na jejich zmírnění.

Rady pro rodiče, jak minimalizovat rizika spojená s chatboty s umělou inteligencí:

• Vedení dětí k bezpečnému používání internetu: Poskytování znalostí o online bezpečnosti a ochraně soukromí je účinný způsob, jak jim zabránit ve sdílení osobních údajů s cizími lidmi, a to i s chatboty.

• Vyzkoušejte si s dětmi chatboty s umělou inteligencí: Společnost Kaspersky povzbuzuje rodiče, aby své děti vedli k používání chatbotů s umělou inteligencí a zvyšovali povědomí o tom, jaké otázky by jim měly nebo neměly klást.

• Monitorování, řízení a nastavování soukromí: Jedním z nejúčinnějších nástrojů online ochrany pro rodiče je komplexní řešení ochrany soukromí. Rodičovské aplikace v digitálním věku navíc poskytují mnoho nezbytných zdrojů pro ochranu dětí online.

Zdroj