سوءاستفاده از هوش مصنوعی می‌تواند امنیت داده‌ها را به خطر بیندازد.

انقلاب در هوش مصنوعی (AI) از اواخر سال ۲۰۲۲، به ویژه پس از راه‌اندازی ChatGPT توسط OpenAI، به طور ناگهانی آغاز شد. کمی پس از آن، شرکت‌های بزرگ فناوری ابزارهای هوش مصنوعی دیگری - مانند Copilot و Bing مایکروسافت و Gemini گوگل - را نیز راه‌اندازی کردند که سودمندی هوش مصنوعی را بیش از پیش افزایش داد. این ابزارها می‌توانند در همه چیز، از نوشتن کد و تجزیه و تحلیل داده‌ها گرفته تا ترکیب اطلاعات در مدت زمان کوتاه، کمک کنند. این امر باعث شده است که بسیاری از کاربران به هوش مصنوعی علاقه‌مندتر شوند.

استفاده از آن همزمان با نگرانی.

آقای نگوین هوآی سانگ، کارمند اداری در منطقه بینه تان، شهر هوشی مین، گفت از زمانی که شروع به استفاده از نرم‌افزار هوش مصنوعی کرده است، تهیه گزارش‌های تجاری، جمع‌آوری اطلاعات و یادداشت‌برداری از جلسات داخلی یا جلسات مشتریان از طریق پلتفرم‌های گوگل میت و زوم، در مقایسه با روش‌های دستی، حدود ۴۰ تا ۵۰ درصد در زمان او صرفه‌جویی کرده است. با این حال، پس از دانلود ابزارهای هوش مصنوعی، متوجه شد که کامپیوترش به مدت ۱ تا ۲ دقیقه هنگ می‌کند و عملکرد آن نیز در مقایسه با قبل کاهش یافته است.

«علاوه بر ChatGPT، Copilot و Gemini، در فروشگاه افزونه‌های گوگل کروم جستجو کردم و چندین ابزار هوش مصنوعی مانند Sider، SearchGPT و Tactiq را نصب کردم. از آن زمان، کامپیوترم کند شده است. به عنوان مثال، تایپ کردن در فایل‌های Word دیگر روان نیست و باز کردن برنامه‌های ساده ۵ تا ۷ ثانیه بیشتر از حد معمول طول می‌کشد، حتی با اینکه لپ‌تاپ خوبی در بازار است. در نتیجه، گاهی اوقات کارم قطع می‌شود و باعث حواس‌پرتی و ناامیدی می‌شود. اما چیزی که من را نگران می‌کند این است که آیا این به دلیل آلودگی ویروسی و نفوذ هوش مصنوعی به دستگاه برای سرقت داده‌ها است؟» - آقای سانگ نگران بود.

در همین حال، آقای شوان تان، کارمند فناوری اطلاعات در شهر هوشی مین که شغل اصلی او رفع خطاهای سیستم داخلی در کسب‌وکارها است، معتقد است که هوش مصنوعی به کار او بسیار کمک می‌کند و فقط به توضیحات و نوشتن کد برای رفع سریع خطاها نیاز دارد. با این حال، او همچنین نگران پیامدهای امنیتی هوش مصنوعی است.

آقای تان با تردید گفت: «برخی وظایف وجود دارند که نیاز به استفاده فوری از هوش مصنوعی دارند، بنابراین من مجبور به استفاده از آن هستم. اما من هنوز نگران این هستم که صاحبان برخی از نرم‌افزارهای هوش مصنوعی ممکن است از داده‌های جمع‌آوری‌شده در طول تعاملات و سوالات داده‌شده به هوش مصنوعی برای نفوذ به سیستم‌های کاربران استفاده کنند. یا وقتی هوش مصنوعی داده‌های ارائه‌شده توسط کاربران را جمع‌آوری می‌کند، بازیگران مخرب می‌توانند در مورد آن سؤال کنند و آیا هوش مصنوعی اطلاعات را ارائه می‌دهد؟ اگرچه هنوز هیچ حادثه‌ای در رابطه با این موضوع رخ نداده است، من هنوز در مورد ایمنی هوش مصنوعی مطمئن نیستم.»

نرم‌افزار هوش مصنوعی می‌تواند علت نقص عملکرد کامپیوتر باشد.

هنگام دانلود هوش مصنوعی احتیاط کنید.

به گفته آقای نگوین هو نگوین، معاون مدیر مرکز ملی واکنش اضطراری امنیت سایبری ویتنام (VNCERT)، کندی کامپیوتر و کاهش عملکرد پس از دانلود نرم‌افزار هوش مصنوعی می‌تواند به دلیل ویژگی‌های پیچیده نرم‌افزار هوش مصنوعی باشد که مقدار زیادی از منابع سیستم را مصرف می‌کنند و لزوماً به دلیل ویروس نیست.

با این حال، به گفته آقای نگوین، کاربران باید هنگام دانلود هوش مصنوعی از منابع غیرقابل اعتماد احتیاط کنند، زیرا ممکن است حاوی بدافزار برای هک کردن سیستم باشد. کاربران همچنین باید به حفاظت از داده‌ها توجه کنند و سیاست حفظ حریم خصوصی و شرایط استفاده از ابزارهای هوش مصنوعی را با دقت مطالعه کنند تا نحوه جمع‌آوری و استفاده از داده‌ها را درک کنند. علاوه بر این، هنگام استفاده از هوش مصنوعی، دسترسی به دستگاه باید کنترل شود. به ویژه اسناد مهم نباید با هوش مصنوعی به اشتراک گذاشته شوند تا خطرات به حداقل برسد.

آقای تا کونگ سون، رئیس دپارتمان توسعه هوش مصنوعی - پروژه ضد کلاهبرداری، معتقد است که کند شدن یا حتی هنگ کردن کامپیوترها پس از بارگذاری هوش مصنوعی می‌تواند به دلیل کمبود رم برای مدیریت ویژگی‌های آن باشد. با این حال، این همچنین یک علامت هشدار دهنده است که کاربران ممکن است با برخی خطرات روبرو شوند.

آقای سان توصیه کرد: «برای اطمینان از ایمنی، کاربران باید دسترسی هوش مصنوعی را محدود کنند. وقتی یک برنامه درخواست مجوز می‌کند، کاربران باید با دقت بررسی کنند که آیا اعطای آن مجوز ضروری و ایمن است یا خیر. یک راه ایمن برای استفاده از ابزارهای هوش مصنوعی، استفاده از برنامه‌های آنتی‌ویروس برای اسکن و بررسی است. علاوه بر این، کاربران می‌توانند از وب‌سایت‌هایی مانند Virustotal.com یا Eset.com برای بررسی اینکه آیا هوش مصنوعی حاوی بدافزار است یا ایمن است، استفاده کنند.»

در یک سمینار سطح بالای اخیر در مورد امنیت سایبری در سال ۲۰۲۴، آقای تران سون بین، مدیر بازرگانی AMD ویتنام، اظهار داشت که کاربرانی که از ChatGPT برای نوشتن کد، برنامه‌نویسی یا خلاصه‌سازی داده‌ها استفاده می‌کنند، می‌توانند منجر به مشکلات امنیتی سیستم شوند. دلیل این امر این است که کد ارائه شده توسط هوش مصنوعی ممکن است حاوی کد مخرب باشد و هوش مصنوعی می‌تواند از این کد برای سوءاستفاده از آسیب‌پذیری‌ها و تغییر ساختارهای داده استفاده کند و در نتیجه امنیت و عملکرد سیستم را به خطر بیندازد.

آقای بین تأکید کرد: «واحدها باید پرسنل خود را در به‌کارگیری هوش مصنوعی برای نوشتن گزارش‌ها و ترکیب اطلاعات بر اساس داده‌های ارائه شده توسط کاربر، به‌ویژه محتوای مربوط به اسرار تجاری و ملی، کنترل کنند. در حال حاضر، ما هنوز در منطقه امن هستیم، اما چه کسی می‌داند که آیا این داده‌ها در آینده امن باقی خواهند ماند یا خیر؟»

هوش مصنوعی داده‌ها را جمع‌آوری خواهد کرد.

طبق گفته‌ی جمینی، چت کردن با این اپلیکیشن به کاربران کمک می‌کند تا سرویس‌های گوگل، از جمله مدل‌های یادگیری ماشینی که جمینی به آن‌ها متکی است را بهبود بخشند. در این فرآیند بهبود، داوران آموزش‌دیده باید مکالمات کاربران را پردازش کنند. جمینی توصیه می‌کند: «بنابراین، هنگام استفاده از جمینی، هیچ اطلاعاتی را که نمی‌خواهید داوران ببینند یا نمی‌خواهید گوگل از آن‌ها استفاده کند، وارد نکنید.»

در مورد Copilot، مایکروسافت اظهار می‌کند که داده‌ها را از طریق تعاملات کاربران جمع‌آوری می‌کند. محصولات هوش مصنوعی که ارائه می‌دهد بر اساس ورودی کاربر هستند و برخی از آنها توسط پلتفرمی تولید می‌شوند که داده‌ها را در مورد سایر فعالیت‌های تعاملی جمع‌آوری می‌کند.

این بدان معناست که وقتی کاربران هرگونه اطلاعاتی را با هوش مصنوعی به اشتراک می‌گذارند، برنامه آن را جمع‌آوری می‌کند تا ابزار را هوشمندتر کند. این بدان معناست که داده‌های کاربر که نمی‌خواهند برای دیگران فاش شود، ممکن است برای آنها قابل مشاهده باشد.

منبع: https://nld.com.vn/lam-dung-ai-coi-chung-du-lieu-kho-an-toan-196240330201849958.htm