Риск утечки персональных данных из чат-ботов с искусственным интеллектом.

Эксперты рекомендуют пользователям сохранять привычку проверять информацию при использовании чат-ботов.

Во Вьетнаме искусственный интеллект широко применяется в цифровой жизни. Согласно недавнему отчету Meta, Вьетнам в настоящее время лидирует в Азиатско- Тихоокеанском регионе по уровню применения ИИ среди малых и средних предприятий (МСП): 93% МСП сообщают об использовании ИИ, включая чат-боты на основе ИИ. Этот факт показывает, что ИИ вышел за рамки этапа тестирования и стал привычной частью повседневной работы и взаимодействия.

Полезный мост

Для вьетнамских пользователей чат-боты с искусственным интеллектом не воспринимаются как сложная технология, а в основном используются для быстрых запросов, фильтрации информации и помощи при покупках. Популярные платформы, такие как ChatGPT, Gemini, Grok, Copilot, а также чат-боты, интегрированные в платформы электронной коммерции, сайты модной одежды , образовательные сайты и т. д., все чаще появляются на потребительском рынке.

Чат-боты с искусственным интеллектом постепенно превращаются в цифровых помощников пользователей, но при передаче личных данных следует проявлять осторожность.

Г-н Минь Туан, офисный работник из Хошимина, рассказал, что регулярно использует чат-боты с искусственным интеллектом уже около года. Прежде чем принимать решение о покупке техники, он обычно обращается к ChatGPT или Gemini, чтобы быстро сравнить товары в одном ценовом диапазоне, понять преимущества и недостатки каждого варианта и получить общее представление, прежде чем читать отзывы или проверять цены. Для анализа текущих событий или трендов в социальных сетях он использует Grok, чтобы быстро составить общее представление, а затем проверяет его с помощью ChatGPT, используя надежные источники информации, что экономит время и позволяет избежать влияния сенсационных новостей. «Искусственный интеллект не принимает решения за меня, но помогает избежать путаницы. Читая новости и обзоры товаров, пользователи легко вводятся в заблуждение рекламой или мнениями лидеров мнений. Теперь у меня есть дополнительный уровень фильтрации информации, прежде чем я смогу принять собственное решение», — поделился г-н Туан.

В индустрии моды многие пользователи также знакомятся с общением с чат-ботами, чтобы получать предложения по одежде, основанные на их личных потребностях, таких как работа, отдых, минималистичный или яркий стиль, а также тип телосложения (высокий, низкий, худой). Процесс вопросов и ответов быстрый и конфиденциальный, особенно подходит для подробных вопросов. Г-жа Нгок Ань, сотрудница отдела коммуникаций в Хошимине, сказала: «Искусственный интеллект помогает мне быстро осваивать структуру знаний, когда мне нужно обработать большой объем документов за короткое время. Чат-боты с ИИ также помогают мне анализировать данные и быстро предоставлять отчеты начальству, что очень удобно. Раньше покупки были проблемой, потому что я не знала, какие наряды сочетать, но теперь с ИИ это намного проще; мне просто нужно предоставить подробную информацию».

Согласно отчетам, не только платформы электронной коммерции, но и все больше предприятий в секторах розничной торговли, образования , туризма, финансов и банковского дела, недвижимости, здравоохранения и потребительских услуг интегрируют чат-боты на основе ИИ в свои веб-сайты, приложения и страницы в социальных сетях. Таким образом, ИИ постепенно становится важным связующим звеном между этапом сбора информации и этапом принятия решений при использовании продуктов и услуг. Примечательно, что 73% вьетнамских потребителей заявили, что им комфортно взаимодействовать с компаниями через чат-боты на основе ИИ.

Будьте осторожны при общении с искусственным интеллектом.

Г-н Хой Ле, директор по вьетнамскому рынку, заявил, что в 2026 году потребители будут гибко переключаться между поиском информации о товарах в социальных сетях, рассмотрением вариантов с помощью ИИ и совершением покупок посредством диалогов, создавая таким образом бесшовный цикл взаимодействия. «В этом контексте вьетнамским компаниям необходимо учитывать эти изменения, чтобы повысить свою конкурентоспособность и построить значимые связи с клиентами», — подчеркнул г-н Хой Ле.

Наряду с очевидными возможностями, растущее присутствие чат-ботов с искусственным интеллектом в цифровой жизни также создает значительные проблемы в отношении достоверности информации и безопасности пользовательских данных. Эти системы не могут заменить роль экспертов в областях, требующих высокой точности и ответственности, таких как здравоохранение, юриспруденция, финансы или новостная журналистика. ИИ следует рассматривать как справочный инструмент для поддержки принятия решений, а не как окончательный источник информации.

Эксперты рекомендуют пользователям сохранять привычку проверять информацию при использовании чат-ботов. Все ответы от ИИ следует рассматривать как интеллектуальные черновики, а данные, имена собственные и события должны быть сопоставлены с официальными источниками. Задавание вопросов для уточнения, просьба к чат-боту указать на неясности или проверить свои аргументы самостоятельно также помогают ограничить неточности и повысить информационную безопасность. При возникновении вопросов, выходящих за рамки данных или знаний, модель все равно склонна давать, казалось бы, убедительные ответы, даже если информация может быть не совсем точной. Это технологическая особенность, о которой пользователи должны знать; это не единичный недостаток какой-либо конкретной платформы.

Помимо рисков информационной безопасности, все большее значение приобретают вопросы конфиденциальности и защиты персональных данных, поскольку чат-боты на основе искусственного интеллекта постепенно занимают центральное место в онлайн-поиске и покупках. Интерфейсы чата побуждают пользователей делиться большей информацией на естественном языке, от предпочтений и потребностей до личного контекста. Это непреднамеренно расширяет масштабы сбора данных, превращая журналы разговоров с чат-ботами в конфиденциальные данные с потенциальными рисками, сопоставимыми с рисками данных о транзакциях. По словам Анны Ларкиной, аналитика по веб-данным и конфиденциальности в компании «Лакер», поведение пользователей в онлайн-поиске кардинально меняется. Вместо ввода коротких ключевых слов пользователи все чаще обращаются к поиску изображений или более подробным описаниям, что требует больших объемов входных данных и высокого уровня персонализации. В этом контексте тщательное и прозрачное управление данными станет ключевым фактором для поддержания доверия клиентов со стороны бизнеса.

«Кроме того, постоянные изменения в налогах, сборах и торговых правилах также могут быть использованы в качестве приманки для онлайн-мошенничества. Необычные предложения, реклама товаров без налогов или неоправданно низкие цены на доставку могут апеллировать к желанию покупателей сэкономить деньги, особенно малых и средних предприятий и неопытных потребителей», — отметил эксперт «Лаборатории Касперского».

Собирайте данные на минимальном уровне.

По данным «Лаборатории Касперского», ожидается, что интерактивные помощники для покупок на основе ИИ будут работать не только на платформах электронной коммерции, но и глубоко интегрируются в браузеры, мобильные приложения и сторонние сервисы. Эта тенденция также приводит к более рассредоточенному и трудноконтролируемому сбору данных, что увеличивает риски для конфиденциальности. Загруженные пользователями изображения могут непреднамеренно содержать лица, информацию о местах проживания или личные данные, отображаемые на упаковке и этикетках для доставки. Поэтому минимизация сбора данных, их безопасная обработка и ограничение времени хранения станут важнейшими требованиями для платформ и розничных предприятий.

Источник: https://nld.com.vn/nguy-co-lo-du-lieu-ca-nhan-tu-chatbot-ai-196260207205513516.htm