Эксперты предупреждают о рисках искусственного интеллекта для детей

Чтобы минимизировать риски воздействия искусственного интеллекта на детей, не обязательно запрещать детям его использовать, но, что самое важное, необходимо обучать детей, повышать их осведомленность о рисках и помогать им защитить себя в онлайн-среде.

Г-жа Дин Тхи Нху Хоа отметила, что приложения, использующие искусственный интеллект (ИИ), становятся всё более популярными и оказывают значительное влияние на детей. (Фото: NVCC)

Такое мнение высказала г-жа Дин Тхи Нху Хоа, руководитель отдела инспекции Вьетнамского центра реагирования на чрезвычайные ситуации в киберпространстве (VNCERT/CC) Департамента информационной безопасности Министерства информации и коммуникаций Вьетнама, передавая газете The World and Vietnam информацию о рисках и решениях по защите детей от воздействия искусственного интеллекта.

Множество рисков, когда дети зависят от ИИ

В последнее время приложения, использующие искусственный интеллект (ИИ), становятся всё более популярными. Дети, в частности, уязвимы для инструментов ИИ. Есть ли у вас какие-либо предупреждения об этой проблеме?

В настоящее время приложения, использующие искусственный интеллект (ИИ), становятся всё более популярными, их используют многие. К ним относятся, например, приложения для редактирования фотографий, чат-боты и т. д. Однако многие забывают, что инструменты ИИ могут нанести вред детям, что может иметь долгосрочные последствия. Дети всех возрастов могут легко получить доступ к инструментам ИИ, но перед их использованием практически не требуется никаких предварительных действий.

Сегодня дети имеют лёгкий доступ к инструментам искусственного интеллекта, но перед их использованием практически нет никаких требований. Какие, по вашему мнению, риски им грозят?

Согласно статистике, доля детей в возрасте 12–17 лет, пользующихся интернетом, очень высока: 93% в городах и 88% в сельской местности. В частности, 98% детей выходят в интернет через смартфоны.

По моему мнению, существуют определённые риски, связанные с влиянием искусственного интеллекта на детей. Во-первых , это риск доступа к нежелательной информации. Информация, предоставляемая пользователям приложениями с интегрированным искусственным интеллектом, такими как ChatGPT, представляет собой агрегированную информацию из множества источников в Интернете. Она включает как точную, так и неточную информацию. Кроме того, эта информация не отбирается, не оценивается и не фильтруется в соответствии с возрастом пользователя. Поэтому поисковые запросы могут отображать ложную информацию, неприемлемый или жестокий контент.

Во-вторых , существует риск утечки личной информации, в том числе и личной информации детей. Дети, случайно делящиеся личной информацией в Интернете, легко становятся жертвами незаконного проникновения данных при использовании приложений для редактирования фотографий, чат-приложений (чат-ботов).

Вторник , заманивание и вовлечение девочек-подростков в опасные испытания. Более того, были зафиксированы тревожные случаи, когда девочки-подростки обращались в ChatGPT за информацией о здоровье и планами питания. Искусственный интеллект может быстро предоставить информацию с подробными планами и конкретными советами. Однако эта информация не ссылается на реальные данные и представляет собой лишь случайный набор информации из интернета.

В то же время, подвергаясь воздействию чат-ботов с столь раннего возраста, дети будут ошибочно воспринимать искусственный интеллект за настоящего друга и следовать советам ИИ, хотя эти советы могут включать в себя предвзятый, неточный, вредоносный или вводящий в заблуждение контент.

В-четвёртых, влияние на психологию, физиологию и поведение детей. С помощью инструментов ИИ пользователи могут найти информацию по любой теме, задав всего один вопрос. Чат-боты на основе ИИ упростили поиск информации, избавив от необходимости открывать десятки различных сайтов и читать бесчисленные статьи для сбора информации.

Таким образом, чрезмерное взаимодействие с технологиями может привести к депрессии, тревожности или потере социальных навыков из-за уменьшения взаимодействия с другими людьми. Кроме того, чрезмерная зависимость детей от искусственного интеллекта снижает их способность к обучению и проактивной работе.

Чрезмерная зависимость детей от искусственного интеллекта снижает их способность к обучению и проактивной работе. (Источник: Интернет)

Помогите детям вести себя вежливо и доброжелательно в Интернете

Какое, по вашему мнению, является наиболее устойчивым решением для минимизации последствий применения инструментов ИИ для детей?

Согласно отчёту ЮНИСЕФ за 2022 год, 23% детей заявили, что иногда случайно видят в интернете рекламу изображений или видеороликов деликатного характера. На самом деле, порнографический контент есть повсюду, поэтому блокировка порносайтов недостаточна и неэффективна. Детям необходим мощный и эффективный инструмент фильтрации онлайн-контента, который поможет им не подвергаться воздействию негативной, токсичной информации.

Чтобы минимизировать риски воздействия искусственного интеллекта на детей, не обязательно запрещать детям его использование, но, что самое важное, необходимо информировать их, чтобы повысить их осведомленность, чтобы они могли распознавать риски и защищать себя в интернете. На мой взгляд, существует несколько принципов, которые помогут детям оставаться в безопасности в интернете, — это принципы 4Т: Соответствие — Интеллект — Осторожность и Доброта.

Во-первых, соблюдайте правила пользования интернетом, установленные провайдером услуг и самой школой. Соблюдайте законодательство, например, правила сообщества некоторых приложений искусственного интеллекта, которые не предназначены для детей младше 13 лет.

Во-вторых, приобретение знаний и навыков для участия в интеллектуальных сетевых средах, таких как навыки предоставления личной информации в сетевой среде, навыки безопасного использования социальных сетей и управления паролями для обеспечения безопасности.

В-третьих, будьте осторожны со своими онлайн-друзьями, поскольку среди них могут быть люди, которые притворяются, что хотят с вами познакомиться. Будьте осторожны, переходя по странным ссылкам, сталкиваясь с невероятно привлекательными предложениями, будьте осторожны, предоставляя информацию в интернете, в том числе в чатах... чтобы минимизировать риски, связанные с онлайн-мошенничеством. Наконец, будьте вежливы и доброжелательны в интернете, не отправляйте и не отвечайте на сообщения с негативным или оскорбительным содержанием.

Каким образом родителям следует выступать «привратниками» своих детей в киберпространстве?

Родители могут применять некоторые технологические инструменты, чтобы помочь заблокировать нежелательную информацию для детей, например, Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kid, safe zone, ...

Кроме того, родителям необходимо установить правила использования компьютеров и сетевых устройств для своих детей. Эти правила различны для каждого возраста. Разрешайте детям пользоваться социальными сетями только с того момента, когда они станут достаточно взрослыми, чтобы соблюдать рекомендуемые принципы взаимодействия с социальными сетями.

В частности, родителям следует всегда обращать внимание и внимательно отслеживать контент, к которому их дети получают доступ в интернете. Необходимо предоставлять семьям решения для обеспечения информационной безопасности, такие как антивирусное ПО, решения для блокировки вредоносной информации и продукты для отслеживания и блокировки опасной информации, когда дети к ней получают доступ.

Спасибо!

В 2019 году Вьетнам и другие страны АСЕАН договорились принять Декларацию о защите детей от всех форм эксплуатации и насилия в Интернете в АСЕАН, а затем в 2021 году приняли Декларацию о ликвидации издевательств в АСЕАН, включая издевательства в Интернете.

Источник