خطر نشت اطلاعات شخصی از چت‌بات‌های هوش مصنوعی.

در ویتنام، هوش مصنوعی به طور گسترده در زندگی دیجیتال به کار گرفته می‌شود. طبق گزارش اخیر متا، ویتنام در حال حاضر در منطقه آسیا و اقیانوسیه از نظر سطح کاربرد هوش مصنوعی در بین شرکت‌های کوچک و متوسط (SME) پیشرو است و ۹۳٪ از شرکت‌های کوچک و متوسط گزارش می‌دهند که از هوش مصنوعی، از جمله چت‌بات‌های هوش مصنوعی، استفاده می‌کنند. این واقعیت نشان می‌دهد که هوش مصنوعی از مرحله آزمایش فراتر رفته و به بخشی آشنا از عملیات و تعاملات روزانه تبدیل شده است.

پل مفید

برای کاربران ویتنامی، چت‌بات‌های هوش مصنوعی به عنوان یک فناوری پیچیده تلقی نمی‌شوند، بلکه در درجه اول برای سوالات سریع، فیلتر کردن اطلاعات و کمک به خرید استفاده می‌شوند. پلتفرم‌های محبوبی مانند ChatGPT، Gemini، Grok، Copilot و چت‌بات‌های ادغام‌شده در پلتفرم‌های تجارت الکترونیک، وب‌سایت‌های مد ، وب‌سایت‌های آموزشی و غیره، به طور فزاینده‌ای در سفر مصرف‌کننده ظاهر می‌شوند.

Nguy cơ lộ dữ liệu cá nhân từ chatbot AI - Ảnh 1. — چت‌بات‌های هوش مصنوعی به تدریج به دستیاران دیجیتال کاربران تبدیل می‌شوند، اما هنگام به اشتراک گذاشتن داده‌های شخصی احتیاط لازم است.

آقای مین توان، یک کارمند اداری در شهر هوشی مین، گفت که حدود یک سال است که مرتباً از چت‌بات‌های هوش مصنوعی استفاده می‌کند. او قبل از هرگونه تصمیم‌گیری در مورد خرید فناوری، معمولاً از ChatGPT یا Gemini می‌خواهد که به سرعت محصولات را در یک محدوده قیمت مقایسه کنند، مزایا و معایب هر گزینه را درک کنند و قبل از خواندن نظرات یا بررسی قیمت‌ها، یک مرور کلی داشته باشند. برای رویدادها یا روندهای جاری که در رسانه‌های اجتماعی مورد بحث قرار می‌گیرند، او از Grok برای درک سریع تصویر کلی استفاده می‌کند، سپس به لطف منابع واضح، دوباره آن را با ChatGPT بررسی می‌کند، در زمان صرفه‌جویی می‌کند و از غرق شدن در اطلاعات جنجالی جلوگیری می‌کند. آقای توان گفت: «هوش مصنوعی برای من تصمیم نمی‌گیرد، اما به من کمک می‌کند تا از سردرگمی جلوگیری کنم. هنگام خواندن اخبار و بررسی محصولات، کاربران به راحتی توسط تبلیغات یا KOLها گمراه می‌شوند. اکنون من قبل از تصمیم‌گیری‌های خودم، یک لایه اضافی از فیلتر کردن اطلاعات دارم.»

در صنعت مد، بسیاری از کاربران با چت با ربات‌های چت نیز آشنا می‌شوند تا بر اساس نیازهای شخصی خود، مانند کار، اوقات فراغت، سبک‌های مینیمالیستی یا چشمگیر و انواع بدن (بلند، کوتاه، لاغر) پیشنهادهای لباس دریافت کنند. فرآیند پرسش و پاسخ سریع و خصوصی است، به خصوص برای سوالات دقیق مناسب است. خانم نگوک آن، کارمند ارتباطات در شهر هوشی مین، گفت: "هوش مصنوعی به من کمک می‌کند تا وقتی نیاز به پردازش اسناد زیادی در مدت زمان کوتاه دارم، به سرعت چارچوب دانش را درک کنم. ربات‌های چت هوش مصنوعی همچنین به من کمک می‌کنند تا داده‌ها را تجزیه و تحلیل کنم و به سرعت به مافوق خود گزارش دهم، که بسیار راحت است. قبلاً، خرید یک چالش بود زیرا نمی‌دانستم چه لباس‌هایی را باید کنار هم بگذارم، اما اکنون با هوش مصنوعی، این کار بسیار آسان‌تر شده است؛ فقط باید اطلاعات دقیقی ارائه دهم."

طبق گزارش‌ها، نه تنها پلتفرم‌های تجارت الکترونیک، بلکه به‌طور فزاینده‌ای کسب‌وکارهای بیشتری در بخش‌های خرده‌فروشی، آموزش ، گردشگری، امور مالی-بانکی، املاک و مستغلات، مراقبت‌های بهداشتی و خدمات مصرفی، چت‌بات‌های هوش مصنوعی را در وب‌سایت‌ها، اپلیکیشن‌ها و صفحات طرفداران خود ادغام کرده‌اند. بنابراین، هوش مصنوعی به تدریج در حال تبدیل شدن به یک پل مهم بین مرحله جمع‌آوری اطلاعات و مرحله تصمیم‌گیری هنگام استفاده از محصولات و خدمات است. نکته قابل توجه این است که ۷۳٪ از مصرف‌کنندگان ویتنامی گفته‌اند که در تعامل با کسب‌وکارها از طریق چت‌بات‌های هوش مصنوعی احساس راحتی می‌کنند.

هنگام صحبت با هوش مصنوعی احتیاط کنید.

آقای خوی لی، مدیر کشوری بازار ویتنام، گفت که در سال ۲۰۲۶، مصرف‌کنندگان به طور انعطاف‌پذیری بین تحقیق در مورد محصولات در رسانه‌های اجتماعی، بررسی گزینه‌های موجود با پشتیبانی هوش مصنوعی و خرید از طریق مکالمات، تغییر رویه خواهند داد و یک چرخه تجربه یکپارچه ایجاد می‌کنند. آقای خوی لی تأکید کرد: «در این زمینه، کسب‌وکارهای ویتنامی باید این تغییرات را درک کنند تا رقابت‌پذیری خود را افزایش دهند و ارتباطات معناداری با مشتریان برقرار کنند.»

در کنار فرصت‌های آشکار، حضور روزافزون چت‌بات‌های هوش مصنوعی در زندگی دیجیتال، چالش‌های مهمی را نیز در رابطه با قابلیت اطمینان اطلاعات و امنیت داده‌های کاربر ایجاد می‌کند. این سیستم‌ها نمی‌توانند جایگزین نقش متخصصان در زمینه‌هایی شوند که نیاز به دقت و پاسخگویی بالایی دارند، مانند مراقبت‌های بهداشتی، حقوقی، مالی یا گزارشگری اخبار. هوش مصنوعی باید به عنوان یک ابزار مرجع برای پشتیبانی از تصمیم‌گیری در نظر گرفته شود، نه به عنوان منبع نهایی اطلاعات.

کارشناسان توصیه می‌کنند که کاربران هنگام استفاده از چت‌بات‌ها، عادت تأیید اطلاعات را حفظ کنند. همه پاسخ‌های هوش مصنوعی باید به عنوان پیش‌نویس‌های هوشمند در نظر گرفته شوند و داده‌ها، نام‌های مناسب و رویدادها باید با منابع رسمی ارجاع داده شوند. پرسیدن سوالات برای شفاف‌سازی، درخواست از چت‌بات برای اشاره به موارد نامشخص یا بررسی استدلال‌های خود نیز به محدود کردن نادرستی‌ها و افزایش امنیت اطلاعات کمک می‌کند. هنگامی که با سوالاتی خارج از محدوده داده‌ها یا دانش مواجه می‌شویم، مدل همچنان تمایل دارد پاسخ‌های به ظاهر قانع‌کننده‌ای ارائه دهد، حتی اگر اطلاعات کاملاً دقیق نباشند. این یک ویژگی تکنولوژیکی است که کاربران باید از آن آگاه باشند؛ این یک نقص جداگانه از هر پلتفرم خاص نیست.

علاوه بر خطرات امنیت اطلاعات، حریم خصوصی و داده‌های شخصی به طور فزاینده‌ای به نگرانی‌های مهمی تبدیل می‌شوند، زیرا چت‌بات‌های هوش مصنوعی به تدریج در جستجو و خرید آنلاین نقش محوری پیدا می‌کنند. رابط‌های چت، کاربران را تشویق می‌کنند تا اطلاعات بیشتری را به زبان طبیعی، از ترجیحات و نیازها گرفته تا زمینه‌های شخصی، به اشتراک بگذارند. این امر ناخواسته دامنه جمع‌آوری داده‌ها را گسترش می‌دهد و باعث می‌شود داده‌های حساس ثبت مکالمات چت‌بات با خطرات بالقوه‌ای قابل مقایسه با داده‌های تراکنش، ثبت شوند. به گفته آنا لارکینا، تحلیلگر داده‌های وب و حریم خصوصی در کسپرسکی، رفتار جستجوی آنلاین به شدت در حال تغییر است. به جای تایپ کلمات کلیدی کوتاه، کاربران به طور فزاینده‌ای به جستجوی تصاویر یا توضیحات دقیق‌تر روی می‌آورند که نیاز به حجم زیادی از داده‌های ورودی و سطح بالایی از شخصی‌سازی دارد. در این زمینه، مدیریت دقیق و شفاف داده‌ها برای حفظ اعتماد مشتری برای کسب‌وکارها کلیدی خواهد بود.

یک متخصص کسپرسکی گفت: «علاوه بر این، تغییرات مداوم در مالیات‌ها، هزینه‌ها و مقررات تجاری نیز می‌تواند به عنوان طعمه برای کلاهبرداری‌های آنلاین مورد سوء استفاده قرار گیرد. پیشنهادهای غیرمعمول، تبلیغات معاف از مالیات یا هزینه‌های حمل و نقل غیرمنطقی پایین می‌تواند تمایل خریداران به صرفه‌جویی در هزینه، به ویژه شرکت‌های کوچک و متوسط و مصرف‌کنندگان بی‌تجربه را جلب کند.»

جمع‌آوری داده‌ها در حداقل سطح.

طبق گفته کسپرسکی، پیش‌بینی می‌شود دستیارهای خرید مبتنی بر هوش مصنوعی فراتر از پلتفرم‌های تجارت الکترونیک عمل کنند و عمیقاً در مرورگرها، برنامه‌های تلفن همراه و سرویس‌های شخص ثالث ادغام شوند. این روند همچنین باعث پراکندگی بیشتر جمع‌آوری داده‌ها و دشواری کنترل آنها می‌شود و خطرات حریم خصوصی را افزایش می‌دهد. تصاویر آپلود شده توسط کاربر ممکن است ناخواسته حاوی چهره‌ها، فضاهای زندگی یا اطلاعات شخصی نمایش داده شده روی بسته‌بندی و برچسب‌های حمل و نقل باشند. بنابراین، به حداقل رساندن جمع‌آوری داده‌ها، پردازش ایمن و محدود کردن زمان ذخیره‌سازی، الزامات حیاتی برای پلتفرم‌ها و مشاغل خرده‌فروشی خواهد بود.

منبع: https://nld.com.vn/nguy-co-lo-du-lieu-ca-nhan-tu-chatbot-ai-196260207205513516.htm