Преимущества и риски использования детьми чат-ботов на основе искусственного интеллекта

СГГПО 24 октября 2023 г., 17:11

Хотя чат-боты на основе искусственного интеллекта обладают множеством существенных преимуществ, не осознавая потенциальных рисков, которые эти инструменты представляют для детей, пользователи сталкиваются с повышенным риском потери персональных данных, угрозой для жизни и неприемлемым контентом.

Родители должны научить детей безопасно пользоваться Интернетом.

Обучение стало ещё более эффективным благодаря инструментам искусственного интеллекта. С помощью чат-бота на основе искусственного интеллекта пользователи могут найти полезную информацию по любой теме , просто сказав одно слово.

В этом контексте дети всех возрастов по всему миру имеют доступ к инструментам ИИ, однако эти инструменты практически не требуют согласия перед использованием.

Чат-боты на основе ИИ упростили навигацию по информации, избавив от необходимости открывать десятки вкладок и читать бесчисленные статьи. Для детей это особенно важно, поскольку они любопытны, и ИИ может помочь им лучше вовлекаться в процесс обучения.

Более того, ИИ предоставляет платформу, которая позволяет детям оттачивать свои языковые навыки и свободно обсуждать темы без ограничений по времени, однако это также сопряжено с рисками.

Говоря об онлайн-контенте, Нура Афане, аналитик веб-контента в «Лаборатории Касперского», отметила определённые риски, связанные с использованием чат-ботов на основе искусственного интеллекта. Среди них — ChatGPT, который установил рекорд по самому быстрому росту числа пользователей, но при этом не проверяет возраст пользователей, что представляет угрозу конфиденциальности данных детей.

Более того, иногда контент, предоставляемый ChatGPT, не совсем точен и может легко привести к тому, что пользователи получат ложную информацию. Это включает в себя поддельные ссылки и несуществующие статьи, что также способствует тому, что ChatGPT становится инструментом для плагиата для некоторых студентов.

Кроме того, чат-бот Snapchat «Мой ИИ» также популярен среди детей, поскольку приложение позволяет пользователям в возрасте от 13 лет использовать его без родительского контроля, что вызывает вопросы о конфиденциальности детей и хранении их данных приложением, привела в пример Нура Афанех.

Один из рисков заключается в том, что дети могут принять ИИ за настоящего друга и действовать по его советам, которые «могут включать предвзятый, неточный, вредоносный или вводящий в заблуждение контент».

Как родители, важно понимать, что запрет на использование чат-ботов на основе искусственного интеллекта не всегда является лучшим способом защиты детей, поскольку дети всегда могут подвергнуться воздействию нового контента в Интернете, поэтому родителям необходимо играть активную роль в уравновешивании вышеуказанных рисков и работе по их снижению.

Советы родителям по минимизации рисков, связанных с чат-ботами на основе искусственного интеллекта:

• Расскажите детям о безопасности в Интернете. Обучение детей принципам безопасности и конфиденциальности в Интернете — это эффективный способ предотвратить передачу личной информации незнакомцам, даже чат-ботам.

• Испытайте чат-бота на основе искусственного интеллекта вместе со своими детьми: «Лаборатория Касперского» призывает родителей объяснять детям, как пользоваться чат-ботом, а также повышать осведомленность о том, какие вопросы следует и не следует задавать чат-боту на основе искусственного интеллекта.

• Мониторинг, управление и настройка параметров конфиденциальности: комплексное решение для безопасности — один из самых мощных инструментов онлайн-защиты для родителей. Кроме того, приложения для родителей, разработанные в эпоху технологий, предоставляют столь необходимые ресурсы для защиты детей в интернете.

Источник