ИИ создаёт контент — когда дети путают «виртуальное — реальное»

(PLVN) — По словам экспертов, дети и подростки проводят в интернете больше времени, чем когда-либо. Подростки экспериментируют с ChatGPT, чтобы помогать с домашними заданиями, играть, решать социальные проблемы или просто общаться, когда им одиноко. Некоторые дети предпочитают общаться с ИИ, а не с друзьями, особенно когда борются с негативными эмоциями. Некоторые молодые люди также углубляют свои знания в приложениях-компаньонах на базе ИИ.

Такие платформы, как Replika или Character.ai, позиционируются среди подростков как игривые, умные и чуткие «друзья». Приложения вроде CrushOn.AI и DreamGF (чат-бот, выдающий себя за девушку на базе искусственного интеллекта) также подчёркивают привлекательность экспериментов с романтическим или сексуальным общением.

По словам доктора Гордона Ингрэма и магистра Ву Бич Фыонга, преподавателей психологии в Университете RMIT, генеративный ИИ и ИИ-компаньоны становятся всё более популярными среди молодёжи. «Как и социальные сети, эти новые возможности ИИ ставят перед родителями серьёзные вопросы о том, как контролировать контент, к которому получают доступ их дети», — сказал доктор Гордон Ингрэм.

По словам мастера Ву Бич Фыонг, маленькие дети могут приписывать чат-ботам с искусственным интеллектом человекоподобные характеристики, считая их разумными или эмоционально развитыми. Это может привести к односторонним социальным взаимодействиям, при которых у детей формируется односторонняя эмоциональная связь с искусственным интеллектом, подобная той, которая возникает с персонажами мультфильмов или знаменитостями, «что вызывает опасения относительно того, могут ли такие взаимодействия заменить реальное взаимодействие с друзьями в социальном развитии детей».

По словам г-жи Фыонг, когда дети не сталкиваются со сложными ситуациями со сверстниками, у них может быть снижена толерантность к дискомфорту, снижена устойчивость к отвержению или даже повышена импульсивность — черты, часто наблюдаемые при тревожности и социальной изоляции. «Учитывая взрывной рост одностороннего социального взаимодействия между детьми и системами искусственного интеллекта, эта тема становится актуальной и требует дальнейшего изучения», — говорит она.

По мнению г-жи Фыонг, аналогичные возрастные ограничения должны применяться и к искусственному интеллекту. Причина в том, что, в отличие от социальных сетей, искусственный интеллект имитирует диалоги и может оказывать более глубокое влияние на психологию уязвимых детей. Без регулирования дети могут ошибочно полагать, что каждый ответ искусственного интеллекта является морально или социально приемлемым. Кроме того, хотя такие платформы, как YouTube или Facebook, позволяют легко сообщать о неприемлемом контенте, механизмы сообщения о нарушениях на многих платформах с генеративным искусственным интеллектом непрозрачны для детей и родителей.

Учёные Королевского королевского технологического института (RMIT) рекомендуют политикам требовать от ИИ-платформ разработки приложений, соответствующих возрасту, проверки возраста и настройки модерации контента для обеспечения безопасности детей. Механизмы сообщения о вредоносном контенте также должны быть легкодоступными. «Поскольку ИИ становится частью повседневной жизни детей во Вьетнаме и во всём мире , мы должны действовать осторожно. Искусственный интеллект может стать мощным средством обучения, но он не может заменить богатый и естественный человеческий интеллект, который позволяет нам жить в эмоциональном мире человеческих отношений», — подчеркнул доктор Ингрэм.

Уен На

Источник: https://baophapluat.vn/ai-sang-tao-noi-dung-khi-tre-lam-tuong-ao-that-post550555.html