جلوگیری از عبور فناوری از مرزهای اخلاقی

استفاده گسترده و فزاینده از هوش مصنوعی برای اهداف غیراخلاقی، تقاضاهای فوری برای کنترل فناوری و افزایش مسئولیت‌پذیری کاربران را افزایش داده است.

هوش مصنوعی (AI) با سرعت بالای پیشرفت خود، در حال ایجاد یک "انقلاب" در بسیاری از زمینه‌ها - از مراقبت‌های بهداشتی، آموزش ، تجارت... گرفته تا زندگی روزمره - است. با این حال، جنبه‌های منفی این فناوری چالش‌های قابل توجهی را برای مدیریت و کنترل اطلاعات در فضای مجازی ایجاد می‌کند.

غرق در اخبار جعلی تولید شده توسط هوش مصنوعی

اخبار جعلی تولید شده توسط هوش مصنوعی در پلتفرم‌های رسانه‌های اجتماعی عمدتاً برای جذب بازدید، لایک، افزایش تعاملات برای فروش آنلاین یا سود از پلتفرم پخش می‌شود.

افرادی که اخبار جعلی منتشر می‌کنند، اغلب موضوعات داغ روز را که مورد توجه عموم است، «دنبال می‌کنند». به عنوان مثال، پس از یک تصادف رانندگی شدید در ۱۷ سپتامبر در بازار تان لونگ، بخش لائو بائو، استان کوانگ تری ، که ۱۲ نفر زخمی و کشته بر جای گذاشت، تعدادی تصویر دلخراش در شبکه‌های اجتماعی منتشر شد که اشک بسیاری از بینندگان را درآورد. پلیس بخش لائو بائو با تشخیص اینکه این تصاویر توسط هوش مصنوعی ایجاد شده‌اند، در مورد انتشار تصاویر جعلی که باعث سوءتفاهم می‌شوند، هشدار داد. این عمل نه تنها باعث انتشار اطلاعات نادرست می‌شود، بلکه بر تحقیقات نیز تأثیر می‌گذارد.

به همین ترتیب، بسیاری از حساب‌های کاربری رسانه‌های اجتماعی با سوءاستفاده از توجه عمومی به حادثه واژگونی قایق توریستی بلو بی ۵۸ در خلیج ها لونگ، استان کوانگ نین در ۱۹ جولای که منجر به کشته شدن ده‌ها نفر شد، تصاویر و داستان‌های تأثیرگذاری درباره قربانیان منتشر کردند. با این حال، بسیاری از این محتواها جعلی بودند و با استفاده از هوش مصنوعی برای "تحریک" احساسات و جذب تعامل کاربران رسانه‌های اجتماعی ایجاد شده بودند. نکته قابل توجه این است که تصاویر جعلی گسترده با محتوای اغراق‌آمیز همدردی می‌تواند باعث آسیب‌های عاطفی بیشتر به خانواده‌های قربانیان شود.

با پیشرفت روزافزون فناوری هوش مصنوعی، تنها با چند دستور ساده می‌توان ویدیویی با محتوای جذاب و مطابق با هدف کاربر ساخت. به طور خاص، پلتفرم‌های نسل جدید هوش مصنوعی مانند KlingAI، Veo 3، Sora و... در بین کاربران جهانی، از جمله ویتنام، بسیار محبوب هستند.

علاوه بر این، فناوری دیپ‌فیک - ترکیبی از یادگیری عمیق و جعل - نیز نگرانی‌های زیادی را در سطح جهانی ایجاد کرده است، زیرا می‌توان از آن برای ایجاد تصاویر، صداها یا ویدیوهای واقع‌گرایانه‌ای استفاده کرد که تشخیص جعلی بودن آنها بسیار دشوار است. در نتیجه، مجموعه‌ای از کلاهبرداری‌های مرتبط با این فناوری هم در ویتنام و هم در سراسر جهان رخ داده است.

سپهبد نگوین مین چین، معاون دائمی انجمن ملی امنیت سایبری، خاطرنشان کرد که روندی از سوءاستفاده از هوش مصنوعی برای اهداف غیرقانونی وجود دارد. به طور خاص، هوش مصنوعی به عنوان سرویس (خدماتی که ابزارها و برنامه‌های هوش مصنوعی را ارائه می‌دهند - PV) توسط مجرمان سایبری برای ایجاد کدهای مخرب، صداهای جعلی، چهره‌ها، متون... برای ارتکاب کلاهبرداری، حمله به شبکه‌ها، نفوذ به سیستم‌های داده، حتی ایجاد بی‌ثباتی امنیتی و از بین بردن اعتبار سازمان‌ها، مشاغل و رهبران مورد سوء استفاده قرار می‌گیرد.

به گفته آقای تران نگوک آنه، مدیر فنی شرکت سایبر پیس لیمیتد (CyPeace)، یکی از خطرات برای کاربران هوش مصنوعی این است که ممکن است اطلاعات نادرستی را که توسط خود این ابزار ایجاد شده است، دریافت کنند. علاوه بر این، مجموعه‌ای از مشکلات دیگر مانند افشای اطلاعات محرمانه، داده‌های شخصی... نیز وجود دارد.

تصاویر جعلی در اینترنت پخش می‌شوند تا «اشک بینندگان را درآورند» و از این طریق لایک بگیرند و تعاملات را افزایش دهند (تصویر صفحه)

افزایش مسئولیت‌پذیری کاربران

پیش از آنکه اقدامات فنی و قانونی برای کنترل شدید توسعه و استفاده از هوش مصنوعی صورت گیرد، کاربران باید به طور فعال و مسئولانه از این فناوری استفاده کنند.

وو نگوک سون، متخصص امنیت سایبری و رئیس دپارتمان فناوری انجمن ملی امنیت سایبری، خاطرنشان کرد که انسان‌ها سوژه‌هایی هستند که از هوش مصنوعی سوءاستفاده و استفاده می‌کنند، بنابراین جنبه‌های خوب و بد هوش مصنوعی ارتباط نزدیکی با انسان‌ها دارد. اگر کاربران واجد شرایط باشند و آن را برای اهداف خوب به کار گیرند، این فناوری نقاط قوت مفید خود را ارتقا می‌دهد. در مقابل، اگر کاربران هوش مصنوعی فاقد درک باشند یا از آن برای اهداف غیرقانونی سوءاستفاده کنند، می‌تواند عواقب جدی ایجاد کند. این متخصص امنیت سایبری گفت: «برای استفاده و بهره‌برداری مؤثر از هوش مصنوعی، لازم است بر ایجاد تیم‌ها و فرآیندها تمرکز شود. هوش مصنوعی تنها زمانی ارزش خود را ارتقا می‌دهد که در دست کسانی قرار گیرد که می‌دانند چگونه بر آن تسلط داشته باشند.»

با توجه به خطر جعل عمیق - ابزار پیشرو برای کلاهبرداری فناوری امروز، در فرآیند تدوین قانون سرمایه‌گذاری و تجارت، وزارت دارایی همچنین تأکید کرد: تجارت فناوری جعل عمیق باید به عنوان یک خط تجاری مشروط تنظیم شود تا از سوءاستفاده از فناوری که باعث اختلال در اطلاعات، کلاهبرداری می‌شود، جلوگیری شود... طبق گفته وزارت دارایی، در حال حاضر، تجارت فناوری جعل عمیق یکی از زمینه‌های جدید است که خطرات پیچیده‌ای را برای امنیت و نظم ایجاد می‌کند، اما به عنوان یک خط تجاری مشروط تنظیم نشده است.

به گفته وکیل تران آنه توآن (کانون وکلای هانوی)، اگر از هوش مصنوعی برای ایجاد محتوا بدون اجازه، به ویژه ایجاد اطلاعات نادرست، جعلی یا کلاهبرداری استفاده شود، ممکن است مفاد قانون مدنی را نقض کند. بر این اساس، متخلفان مشمول مجازات‌های اداری یا جبران خسارت خواهند شد. در صورت بروز عواقب جدی، ممکن است تحت پیگرد قانونی قرار گیرند. وکیل توآن توصیه کرد: «کاربران باید هنگام نزدیک شدن و استفاده از هوش مصنوعی مراقب باشند، کاملاً از سوءاستفاده از هوش مصنوعی برای جذب بازدید و لایک خودداری کنند؛ مسئولیت شخصی را افزایش دهند، هنگام استفاده از هوش مصنوعی و همچنین مشارکت در محیط آنلاین، از قانون پیروی کنند.»

سپهبد نگوین مین چین تأکید کرد که عامل اصلی در توسعه پایدار هوش مصنوعی، منابع انسانی است. از محققان، مهندسان، متخصصان امنیت سایبری گرفته تا مدیران و کاربران، همگی باید کاملاً به دانش، مهارت، اخلاق و آگاهی حقوقی مجهز باشند. به گفته آقای چین، این نه تنها تیمی است که سیستم‌های هوش مصنوعی را می‌سازد و اداره می‌کند، بلکه نیروی کلیدی در پیشگیری، تشخیص و مبارزه با جرایم پیشرفته در فضای مجازی است.

ویتنام قانون هوش مصنوعی خواهد داشت

در یک کنفرانس علمی ملی اخیر در مورد هوش مصنوعی، وزیر علوم و فناوری، نگوین مان هونگ، اظهار داشت که هوش مصنوعی فرصت‌های بزرگی را ایجاد می‌کند، اما همچنین مسائل زیادی را در مورد اخلاق، اشتغال و اعتماد اجتماعی مطرح می‌کند. بنابراین، هوش مصنوعی باید به سرعت، ایمن و انسانی توسعه یابد.

به گفته وزیر نگوین مان هونگ، هوش مصنوعی جایگزین انسان نمی‌شود، بلکه به انسان خدمت می‌کند، دستیار انسان است. هوش مصنوعی ابزاری قدرتمند است، اما انسان‌ها تصمیم‌گیرنده هستند، بنابراین اجازه دهید هوش مصنوعی از تفکر، ارزش‌ها و مسئولیت‌های انسانی پشتیبانی کند، نه اینکه جایگزین آنها شود. وزیر نگوین مان هونگ اعلام کرد: «وزارت علوم و فناوری یک قانون ملی اخلاق هوش مصنوعی را مطابق با استانداردهای بین‌المللی اما متناسب با رویه‌های ویتنامی منتشر خواهد کرد و همزمان یک قانون هوش مصنوعی و یک استراتژی هوش مصنوعی تدوین خواهد کرد.»

منبع: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm