هوش مصنوعی آینده را شکل می‌دهد - بخش ۲: چالش‌هایی که با آن همراه است

پتانسیل با ریسک همراه است.

بدون شک، هوش مصنوعی (AI) به طور فزاینده‌ای به ابزاری قدرتمند برای حمایت از کارگران و تسهیل زندگی مردم تبدیل می‌شود. با این حال، این محصولات فناوری مانند یک "شمشیر دولبه" هستند، زمانی که بازیگران مخرب از آنها برای کلاهبرداری و حملات سایبری سوءاستفاده می‌کنند.

هشدارهای امنیت اطلاعات از وزارت اطلاعات و ارتباطات ( وزارت اطلاعات و ارتباطات ) یا از انجمن امنیت سایبری، موارد ثبت‌شده‌ی متعددی از کلاهبرداری با استفاده از فناوری هوش مصنوعی را ذکر می‌کنند. به عنوان مثال، خانم نگوین تان تی، کارمند اداری در هانوی، از طریق مسنجر فیسبوک با یکی از دوستانش چت می‌کرد. پس از خداحافظی و پایان مکالمه، دوستش ناگهان دوباره به او پیام داد و درخواست قرض گرفتن پول و انتقال بانکی کرد. اگرچه نام حساب با نام دوستش مطابقت داشت، خانم تی مشکوک شد و برای تأیید، درخواست تماس ویدیویی کرد. دوستش به راحتی موافقت کرد، اما به دلیل اتصال ناپایدار شبکه، تماس فقط چند ثانیه طول کشید.

خانم تی با دیدن چهره دوستش در تماس ویدیویی و تشخیص صدایش، پول را منتقل کرد. با این حال، تنها پس از موفقیت‌آمیز بودن انتقال، متوجه شد که در دام یک هکر افتاده است.

نه تنها خانم T، بلکه بسیاری از قربانیان دیگر، از جمله دوستان و اقوام، نیز به روشی مشابه مورد کلاهبرداری قرار گرفتند. میزان پولی که کلاهبرداران از طریق جعل هویت با استفاده از ابزارهای Deep Fake و دستکاری صدا کلاهبرداری کرده‌اند، به ده‌ها میلیون دونگ ویتنام رسیده است.

یکی دیگر از نمونه‌های بارز استفاده از هوش مصنوعی برای سرقت دارایی‌ها، مورد آقای NTH است که با استفاده از یک تلفن اندروید، فریب خورد و یک لینک بدافزار را نصب کرد. از آنجا، کلاهبرداران کنترل تلفن و حساب‌های بانکی او را به دست گرفتند تا به شخص ثالث پول منتقل کنند. علاوه بر این، بدافزار به طور خودکار با مخاطبین موجود او تماس گرفت و پیام‌های خودکاری مبنی بر درخواست انتقال پول ارسال کرد.

آقای NTH اظهار داشت که فرد متقلب، خود را به عنوان یک « مامور پلیس » جا زده و با شماره تلفن او تماس گرفته و درخواست تأیید هویت شخصی کرده است. قربانی به دلیل سن، عدم آشنایی با فناوری و ساده‌لوحی، تلفن خود را به شخص ثالثی داده تا دستورالعمل‌های کلاهبردار را دنبال کند که منجر به دانلود و نصب برنامه مخرب "DichVuCong.apk" روی تلفن او شده است.

آقای تران نگوین چانگ، رئیس دپارتمان امنیت سیستم‌های اطلاعاتی (آژانس امنیت اطلاعات)، اظهار داشت: با توسعه فناوری هوش مصنوعی، تشخیص و تمایز بین محتوای واقعی و جعلی در فضای مجازی دشوارتر خواهد شد و هر کسی می‌تواند هدف یا قربانی حملات سایبری توسط مجرمانی شود که از فناوری هوش مصنوعی استفاده می‌کنند. با این حال، قربانی شدن یا نشدن یک فرد به سطح دانش و اطلاعات لازم او بستگی دارد.

این نوع کلاهبرداری مبتنی بر هوش مصنوعی مختص ویتنام نیست؛ در بسیاری از کشورهای جهان وجود دارد. در حال حاضر، آژانس‌ها، سازمان‌ها و شرکت‌های بزرگ فناوری با هم همکاری می‌کنند تا راه‌حل‌های فنی برای شناسایی و جلوگیری از آن به صورت ریشه‌ای پیدا کنند.

در حال حاضر، یک اقدام حیاتی، تشدید تبلیغات و افزایش آگاهی عمومی در مورد روش‌ها، تاکتیک‌ها و راه‌های شناسایی و مقابله با این شکل پیچیده از کلاهبرداری است که در نتیجه، تأثیر جعل عمیق بر فعالیت‌های آنلاین را کاهش داده و محدود می‌کند. هشدارهای پیشگیرانه باید به طور گسترده از طریق رسانه‌های جمعی در هنگام ظهور اشکال جدید کلاهبرداری منتشر شود.

آقای تران نگوین ترونگ گفت: «در صورت دریافت تماس‌های اخاذی حاوی تصاویر یا ویدیوهای حساس، افراد باید آرامش خود را حفظ کنند، منبع تصاویر یا ویدیوها را تأیید و به طور کامل بررسی کنند.»

بر اساس گزارش تحقیقاتی «شناسایی خطرات اقتصاد جهانی در سال ۲۰۲۴» که توسط دانشگاه اقتصاد (UEB) دانشگاه ملی ویتنام، هانوی، منتشر شده است، یکی از خطراتی که اقتصاد جهانی را تحت تأثیر قرار می‌دهد، ریسک در بخش فناوری است. این گزارش استدلال می‌کند که در حالی که هوش مصنوعی به سرعت در حال ظهور است، سیاست‌های مدیریتی با توسعه آن همگام نشده‌اند. اطلاعات نادرست منتشر شده توسط هوش مصنوعی، به ویژه در سالی مانند امسال که انتخابات متعددی در سراسر جهان برگزار می‌شود، چالش‌های قابل توجهی را برای امنیت، سیاست، دفاع و صلح جهانی ایجاد کرده و همچنان می‌کند.

نگوین هوانگ جیانگ، معاون وزیر علوم و فناوری، در گفتگو با خبرنگار روزنامه تین توک گفت: «نخست‌وزیر تصمیم شماره ۱۲۷/۲۰۲۱ را در مورد استراتژی ملی تحقیقات، توسعه و کاربرد هوش مصنوعی تا سال ۲۰۳۰ صادر کرد. برای اجرای این امر، وزارت علوم و فناوری و همچنین سایر وزارتخانه‌ها و بخش‌ها، آن را قاطعانه و همزمان اجرا کرده‌اند، مانند وزارت دادگستری که جنبه‌های قانونی را بررسی می‌کند، وزارت اطلاعات و ارتباطات که فناوری دیجیتال را بررسی می‌کند، و وزارت علوم و فناوری که از صنعت ۴.۰ حمایت، تحقیق و توسعه می‌کند؛ تحقیق و به‌کارگیری فناوری اطلاعات برای خدمت به توسعه شهرهای دیجیتال و هوشمند. با این حال، با توسعه سریع و قوی، جنبه‌های منفی و خطرات هوش مصنوعی نیز زمانی که به عنوان ابزاری برای جرایم سایبری به منظور کلاهبرداری، جعل هویت، تهدید و سرقت اموال و غیره مورد سوءاستفاده قرار می‌گیرد، پدیدار شده است.»

تا به امروز، در کنار تحقیقات، وزارت علوم و فناوری و دولت نیز به طور فعال در حال ایجاد یک چارچوب قانونی و یادگیری از تجربیات سایر کشورهای توسعه‌یافته هستند تا بخش هوش مصنوعی در ویتنام بتواند پتانسیل خود را آزاد کند، توسعه را ارتقا دهد و کنترل دقیق، استانداردهای اخلاقی و حقوق بشر را در زمینه هوش مصنوعی تضمین کند.

توسعه سریع ابزارهای هوش مصنوعی، مسائل زیادی را در مورد حقوق بشر، اخلاق، حریم خصوصی، امنیت اطلاعات و مسئولیت قانونی مطرح کرده است. در مقایسه با سایر نقاط جهان، ویتنام هنوز در مراحل اولیه توسعه هوش مصنوعی است. بنابراین، مقررات و سیاست‌های خاص هوش مصنوعی مورد نیاز است که برای همه جنبه‌های زندگی، اقتصاد و جامعه در ویتنام مناسب باشد.

صدور فوری یک چارچوب نظارتی قانونی.

مدیریت جنبه‌های منفی هوش مصنوعی نیز موضوعی است که در چندین کشور مورد بحث قرار گرفته است. پارلمان اتحادیه اروپا اولین آیین‌نامه اساسی جهان را برای تنظیم هوش مصنوعی تصویب کرده است. بسیاری از کارشناسان فناوری معتقدند که این آیین‌نامه به اتحادیه اروپا کمک می‌کند تا به دو هدف دست یابد: به حداقل رساندن تأثیر منفی توسعه فناوری بر کاربران و رسیدن به جایگاه غالب رقبای کلیدی در بازار.

اندکی پس از آن، مجمع عمومی سازمان ملل متحد قطعنامه‌ای در مورد هوش مصنوعی (AI) تصویب کرد که حمایت جهانی را از تلاش‌های بین‌المللی برای اطمینان از اینکه این فناوری جدید به نفع همه کشورها است، به حقوق بشر احترام می‌گذارد و «ایمن، مطمئن و قابل اعتماد» است، فراهم می‌کند.

آقای وو نگوک سون، مدیر فنی شرکت سهامی ملی فناوری امنیت سایبری، اظهار داشت: «هوش مصنوعی فناوری‌ای است که در خدمت منافع بشر است و از اتوماسیون بسیاری از فرآیندهای عملیاتی مختلف پشتیبانی می‌کند. این ابزاری قدرتمند است که برای اهداف مختلفی مانند ارائه خدمات پاسخ به پرسش، تولید نرم‌افزار و غیره استفاده می‌شود. با این حال، هوش مصنوعی همچنین دارای یک جنبه منفی است، زمانی که به دست افراد نادرست برای ایجاد محتوای جعلی و بدافزار برای حمله به کاربران می‌افتد. بنابراین، هوش مصنوعی ابزاری منحصراً برای ایجاد محصولات یا ارتکاب جرم نیست؛ مسئله مهم «چگونگی» استفاده از هوش مصنوعی است.»

آقای وو نگوک سان اظهار داشت: «من معتقدم که مقررات و چارچوب قانونی موجود هنوز با توسعه سریع هوش مصنوعی همگام نشده‌اند. ما برای ایجاد و اجرای سیاست‌هایی جهت محدود کردن خطرات استفاده از هوش مصنوعی برای اهداف مخرب، که بر حقوق بشر و همچنین امنیت اجتماعی، نظم و ایمنی تأثیر می‌گذارد، به زمان نیاز داریم.»

دکتر دانگ مین توان، مدیر موسسه CMC ATI، اظهار داشت: «از یک سو، ما باید به تحقیق و توسعه فناوری‌های جدید ادامه دهیم، روش‌های مورد استفاده برای اهداف مخرب با هوش مصنوعی را به‌روزرسانی و مطالعه کنیم. از سوی دیگر، باید صداقت در علم و کار را نیز رعایت کنیم. بر این اساس، باید در سیاست‌های خاص مربوط به این ابزار در ویتنام، تنظیمات و سرمایه‌گذاری‌هایی انجام شود. به طور خاص، ما همچنین می‌توانیم از ابزارهای هوش مصنوعی برای شناسایی محتوا و کدهای مخرب استفاده کنیم. هوش مصنوعی مانند یک «شمشیر دولبه» است که یک فرآیند مداوم، پیوسته و دائماً در حال بهبود را با هدف نهایی خدمت به منافع بشر ایجاد می‌کند.»

کارشناسان معتقدند که لزوم کنترل مسئولانه بر توسعه محصولات پیشرفته بسیار مهم است، زیرا ناتوانی در تنظیم و تسلط بر فناوری منجر به عواقب غیرقابل پیش‌بینی می‌شود و باعث ضرر و زیان به اقتصاد شده و بر افراد و جامعه به طور کلی تأثیر می‌گذارد.

صدور مقررات خاص و شفاف نه تنها به جلوگیری و کاهش خطرات احتمالی هوش مصنوعی کمک می‌کند، بلکه به ویتنام کمک می‌کند تا توجه و سرمایه‌گذاری شرکت‌های پیشرو در فناوری جهانی را جلب کند و توسعه صنعت فناوری اطلاعات و هوش مصنوعی داخلی را ارتقا بخشد.

مقاله نهایی: توسعه و کنترل هوش مصنوعی به صورت موازی.

منبع: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238