جلوگیری از عبور فناوری از مرزهای اخلاقی.

استفاده روزافزون از هوش مصنوعی برای اهداف غیراخلاقی، نیاز مبرمی به کنترل فناوری و افزایش پاسخگویی کاربران ایجاد کرده است.

هوش مصنوعی (AI) با سرعت بالای پیشرفت خود، انقلابی در بسیاری از زمینه‌ها - از مراقبت‌های بهداشتی، آموزش و تجارت گرفته تا زندگی روزمره - ایجاد کرده است. با این حال، معایب این فناوری چالش‌های قابل توجهی را برای مدیریت و کنترل اطلاعات در فضای مجازی ایجاد می‌کند.

پر از اخبار جعلی تولید شده توسط هوش مصنوعی.

اخبار جعلی تولید شده توسط هوش مصنوعی در پلتفرم‌های رسانه‌های اجتماعی عمدتاً برای به دست آوردن بازدید، لایک و تعامل برای فروش آنلاین یا سودآوری از پلتفرم منتشر می‌شود.

کسانی که اخبار جعلی تولید می‌کنند، اغلب از رویدادهای جاری پرطرفدار که توجه عمومی را به خود جلب می‌کنند، بهره‌برداری می‌کنند. به عنوان مثال، پس از تصادف شدید رانندگی در ۱۷ سپتامبر در بازار تان لانگ، بخش لائو بائو، استان کوانگ تری ، که منجر به ۱۲ کشته شد، تصاویر دلخراشی در رسانه‌های اجتماعی منتشر شد که بسیاری از بینندگان را به گریه انداخت. پلیس بخش لائو بائو با شناسایی این تصاویر به عنوان ساخته شده توسط هوش مصنوعی، در مورد انتشار این تصاویر جعلی گمراه‌کننده هشدار داد. این رفتار نه تنها اطلاعات نادرست را منتشر می‌کند، بلکه مانع تحقیقات نیز می‌شود.

به همین ترتیب، بسیاری از حساب‌های کاربری رسانه‌های اجتماعی با سوءاستفاده از توجه عمومی به واژگونی قایق توریستی گرین بی ۵۸ در خلیج ها لونگ، استان کوانگ نین در ۱۹ جولای که منجر به کشته شدن ده‌ها نفر شد، تصاویر و داستان‌های احساسی در مورد قربانیان منتشر کردند. با این حال، بخش قابل توجهی از این محتوا جعلی بود و با استفاده از هوش مصنوعی برای دستکاری احساسات و جذب تعامل کاربران رسانه‌های اجتماعی ایجاد شده بود. نکته قابل توجه این است که استفاده گسترده از تصاویر جعلی با ابراز همدردی اغراق‌آمیز می‌تواند خانواده‌های قربانیان را بیشتر تحت تأثیر قرار دهد.

با پیشرفت مداوم فناوری هوش مصنوعی، تنها چند دقیقه و با دستورات ساده می‌توان ویدیویی با محتوای جذاب و کاملاً منطبق با اهداف کاربر ایجاد کرد. در میان این موارد، پلتفرم‌های هوش مصنوعی نسل بعدی مانند KlingAI، Veo 3 و Sora در بین کاربران در سراسر جهان، از جمله ویتنام، بسیار محبوب هستند.

علاوه بر این، فناوری دیپ‌فیک - ترکیبی از یادگیری عمیق و جعل - نیز یک نگرانی عمده در سطح جهانی است زیرا می‌تواند برای ایجاد تصاویر، صداها یا ویدیوهایی استفاده شود که آنقدر واقعی به نظر می‌رسند که تشخیص جعلی بودن آنها بسیار دشوار است. در نتیجه، کلاهبرداری‌های متعددی مرتبط با این فناوری هم در ویتنام و هم در سراسر جهان رخ داده است.

سپهبد نگوین مین چین، نایب رئیس دائمی انجمن ملی امنیت سایبری، به روند رو به رشد سوءاستفاده از هوش مصنوعی برای اهداف غیرقانونی اشاره کرد. به طور خاص، هوش مصنوعی به عنوان سرویس (ابزارها و برنامه‌های ارائه شده توسط هوش مصنوعی) توسط مجرمان سایبری برای ایجاد بدافزار، جعل صدا، چهره و متن... برای کلاهبرداری، حملات سایبری، نفوذ به سیستم‌های داده و حتی برای بی‌ثبات کردن امنیت و آسیب رساندن به اعتبار سازمان‌ها، مشاغل و رهبران مورد سوء استفاده قرار می‌گیرد.

به گفته آقای تران نگوک آنه، مدیر فنی شرکت فضای سایبری هوآ بینه (CyPeace)، یکی از خطرات برای کاربران هوش مصنوعی، احتمال دریافت اطلاعات نادرست تولید شده توسط خود ابزار است. علاوه بر این، مسائل دیگری مانند نشت اطلاعات محرمانه و داده‌های شخصی نیز وجود دارد.

تصاویر جعلی به صورت آنلاین پخش می‌شوند تا «بینندگان را به گریه بیندازند» و از این طریق لایک بگیرند و تعامل را افزایش دهند (تصویر صفحه).

افزایش مسئولیت‌پذیری کاربران

پیش از آنکه اقدامات فنی و قانونی برای کنترل شدید توسعه و استفاده از هوش مصنوعی به کار گرفته شوند، کاربران باید به طور فعال و مسئولانه از این فناوری استفاده کنند.

وو نگوک سون، متخصص امنیت سایبری و رئیس کمیته فناوری انجمن ملی امنیت سایبری، خاطرنشان کرد که انسان‌ها سوژه‌هایی هستند که از هوش مصنوعی سوءاستفاده و استفاده می‌کنند، بنابراین جنبه‌های خوب و بد هوش مصنوعی ارتباط نزدیکی با انسان‌ها دارد. اگر کاربران ماهر باشند و آن را برای اهداف خوب به کار گیرند، این فناوری از نقاط قوت خود به نفع خود استفاده خواهد کرد. برعکس، اگر کاربران هوش مصنوعی فاقد درک باشند یا از آن برای اهداف غیرقانونی سوءاستفاده کنند، می‌تواند عواقب جدی ایجاد کند. این متخصص امنیت سایبری گفت: «برای استفاده و بهره‌برداری مؤثر از هوش مصنوعی، لازم است بر ایجاد یک تیم و فرآیندها تمرکز شود. هوش مصنوعی تنها زمانی ارزش خود را درک می‌کند که در دست کسانی قرار گیرد که می‌دانند چگونه بر آن تسلط داشته باشند.»

با توجه به خطرات فناوری دیپ‌فیک - ابزاری پیشرو که کلاهبرداری سایبری فعلی را تسهیل می‌کند - وزارت دارایی در طول تدوین قانون سرمایه‌گذاری و تجارت تأکید کرد که تجارت فناوری دیپ‌فیک باید به عنوان یک بخش تجاری مشروط تنظیم شود تا از سوءاستفاده از فناوری که باعث اختلال در اطلاعات و کلاهبرداری می‌شود، جلوگیری شود. به گفته وزارت دارایی، تجارت فناوری دیپ‌فیک در حال حاضر یکی از زمینه‌های جدید با خطرات بالقوه پیچیده برای امنیت و نظم است، اما به عنوان یک بخش تجاری مشروط تنظیم نشده است.

به گفته وکیل تران آنه توآن (کانون وکلای هانوی)، استفاده از هوش مصنوعی برای ایجاد محتوا بدون اجازه، به ویژه برای ایجاد اطلاعات نادرست، ساختگی یا جعلی، ممکن است مفاد قانون مدنی را نقض کند. متخلفان ممکن است با مجازات‌های اداری یا جبران خسارت مواجه شوند. در مواردی که عواقب جدی ایجاد کند، ممکن است مسئولیت کیفری در پی داشته باشد. وکیل توآن توصیه کرد: «کاربران باید هنگام دسترسی و استفاده از هوش مصنوعی محتاط باشند و کاملاً از هرگونه اقدامی که از هوش مصنوعی برای به دست آوردن بازدید یا لایک سوءاستفاده می‌کند، اجتناب کنند. آنها باید مسئولیت شخصی خود را افزایش داده و هنگام استفاده از هوش مصنوعی و مشارکت در محیط آنلاین، از قانون پیروی کنند.»

سپهبد نگوین مین چین تأکید کرد که عنصر اصلی در توسعه پایدار هوش مصنوعی، منابع انسانی است. از محققان، مهندسان، متخصصان امنیت سایبری گرفته تا مدیران و کاربران، همه باید کاملاً به دانش، مهارت، اخلاق و آگاهی حقوقی مجهز باشند. به گفته وی، این نه تنها تیمی است که سیستم‌های هوش مصنوعی را می‌سازد و اداره می‌کند، بلکه نیروی کلیدی در پیشگیری، تشخیص و مبارزه با جرایم پیشرفته در فضای مجازی است.

ویتنام قانون هوش مصنوعی خواهد داشت.

در یک کنفرانس علمی ملی اخیر در مورد هوش مصنوعی، وزیر علوم و فناوری، نگوین مان هونگ، اظهار داشت که هوش مصنوعی فرصت‌های بزرگی را ایجاد می‌کند، اما همچنین مسائل زیادی را در مورد اخلاق، اشتغال و اعتماد اجتماعی مطرح می‌کند. بنابراین، توسعه هوش مصنوعی باید سریع، ایمن و انسانی باشد.

به گفته وزیر نگوین مان هونگ، هوش مصنوعی جایگزین انسان‌ها نمی‌شود، بلکه به انسان‌ها خدمت می‌کند و به عنوان دستیار آنها عمل می‌کند. هوش مصنوعی ابزاری قدرتمند است، اما انسان‌ها تصمیم‌گیرنده هستند؛ بنابراین، هوش مصنوعی باید از تفکر، ارزش‌ها و مسئولیت‌های انسانی پشتیبانی کند، نه اینکه جایگزین آنها شود. وزیر نگوین مان هونگ اظهار داشت: «وزارت علوم و فناوری یک قانون ملی اخلاق برای هوش مصنوعی صادر خواهد کرد که با استانداردهای بین‌المللی هماهنگ باشد اما متناسب با واقعیت‌های ویتنام طراحی شده باشد و همچنین یک قانون هوش مصنوعی و یک استراتژی هوش مصنوعی تدوین خواهد کرد.»

منبع: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm