هنگام تهدید امنیت اطلاعات، مراقب تصاویر تولید شده توسط هوش مصنوعی باشید

روند ایجاد تصاویر با استفاده از هوش مصنوعی در حال گسترش است و به طور بالقوه باعث تحریف اطلاعات می‌شود و بر امنیت شبکه و حاکمیت ملی در تعطیلات مهم تأثیر می‌گذارد.

در عصر توسعه سریع فناوری، روند استفاده از هوش مصنوعی (AI) برای خلق تصاویر در پلتفرم‌های شبکه‌های اجتماعی در حال گسترش است و توجه بسیاری از کاربران، به ویژه جوانان را به خود جلب کرده است. عکس‌های ایجاد شده با هوش مصنوعی بسیار خلاقانه هستند و با هدف سرگرمی، شخصی‌سازی محتوا و بیان شخصیت استفاده می‌شوند. با این حال، در پس این جذابیت، خطرات بالقوه‌ای برای امنیت و ایمنی اطلاعات وجود دارد.

سرگرمی یا محرک بالقوه؟

به گفته پلیس هانوی ، اخیراً روند استفاده از هوش مصنوعی (AI) برای ایجاد تصاویر مورد توجه بسیاری از کاربران قرار گرفته است. اگرچه این تصاویر عمدتاً برای اهداف سرگرمی منتشر می‌شوند، اما انتشار آنها خطرات بالقوه زیادی را به همراه دارد و به طور مستقیم بر امنیت و ایمنی اطلاعات، به ویژه در هشتادمین سالگرد انقلاب آگوست و روز ملی ۲ سپتامبر این کشور، تأثیر می‌گذارد.

در حال حاضر، کاربران می‌توانند به راحتی از طریق نرم‌افزار هوش مصنوعی به تصاویر دسترسی پیدا کرده و آنها را ایجاد کنند و از این تصاویر به عنوان آواتار، اخبار و مقالات در شبکه‌های اجتماعی مانند زالو، تیک تاک، فیس‌بوک و غیره استفاده کنند. با این حال، اگر کاربران مراقب نباشند، از نظر سیاسی بی‌تفاوت باشند و تصاویر تولید شده توسط هوش مصنوعی را کنترل نکنند، ممکن است از تصاویر نادرستی مانند تصاویر نقشه ویتنام که فاقد اطلاعات مربوط به مجمع‌الجزایر هوانگ سا و ترونگ سا است، استفاده کنند؛ تصاویری که برای مردم ویتنام مناسب نیستند. استفاده از این تصاویر نادرست، تأثیر زیادی بر افکار عمومی در فضای مجازی خواهد گذاشت و می‌تواند برداشت نادرستی در مورد مسائل مربوط به حاکمیت مرزی و همچنین تاریخ و سنت‌های فرهنگی ملی ایجاد کند.

هوش مصنوعی تصویری از آئو دای ایجاد می‌کند که روی آن نقشه ویتنام بدون نقشه مجمع‌الجزایر هوانگ سا - ترونگ سا - چاپ شده است. (عکس: پلیس شهر هانوی)

یک کاربر رسانه‌های اجتماعی در هانوی با استفاده از نرم‌افزار هوش مصنوعی، عکسی از یک آئو دای (نوعی غذای ویتنامی) با نقشه چاپ شده ویتنام روی آن ایجاد کرد و سپس آن را در تیک‌تاک منتشر کرد تا به روند «غرور ملی» پاسخ دهد. با این حال، تصویر ایجاد شده توسط هوش مصنوعی، مجمع‌الجزایر هوانگ سا و ترونگ سا را ​​نشان نمی‌داد. این پست به سرعت ویروسی شد و هزاران بازدید و اشتراک‌گذاری را به خود جلب کرد، اما با واکنش‌های شدیدی از سوی جامعه آنلاین نیز روبرو شد. مقامات وارد عمل شده و خواستار حذف محتوا شده و نسبت به انتشار اطلاعات نادرست مربوط به حاکمیت ملی هشدار داده‌اند.

هشدار از سوی مسئولین

به گفته آقای وو نگوک سون، مدیر فنی شرکت ملی فناوری امنیت سایبری ویتنام - NCS، اخیراً هوش مصنوعی و برنامه‌های مبتنی بر آن در بسیاری از زمینه‌های زندگی به شدت در حال توسعه بوده‌اند. ChatGPT در واقع برنامه‌ای است که به راحتی برای اکثر افرادی که متخصص فناوری اطلاعات نیستند قابل دسترسی است، بنابراین به سرعت تب و تاب ایجاد کرد.

از نظر فناوری، ChatGPT در مقایسه با سایر فناوری‌های مبتنی بر هوش مصنوعی موجود، پیشرفت چشمگیری محسوب نمی‌شود، اما از نظر داده‌ها، ChatGPT در زمینه‌های مختلف و بر اساس حجم عظیمی از داده‌ها بسیار موفق بوده و باعث شده کاربران احساس کنند که "همه چیز را می‌دانند". این موضوع تا به امروز نیز جذابیت ChatGPT را دو چندان کرده است.

از نظر امنیتی، ChatGPT خود برای ارائه یک سرویس پرسش و پاسخ ایجاد شده است، بنابراین بزرگترین خطر این است که آیا محتوایی که ChatGPT به کاربران پاسخ می‌دهد، توسط شخصی کنترل یا "مسموم" می‌شود تا ChatGPT اطلاعات نادرست ارائه دهد. در حال حاضر، هیچ مدرکی مبنی بر حمله به ChatGPT وجود ندارد، زیرا داده‌های ورودی توسط این شرکت توسط انسان‌ها کنترل، غربالگری و حتی برچسب‌گذاری می‌شوند، بنابراین خطرات فوق محدود شده‌اند. با این حال، در آینده، هنگامی که این سرویس به گسترش خود ادامه می‌دهد، تقاضا برای داده‌های ورودی اضافی به طرز چشمگیری افزایش می‌یابد، خطرات کنترل داده‌ها، تولیدکنندگان را ملزم به اقدامات امنیتی سختگیرانه‌تری خواهد کرد.

نرم‌افزار هوش مصنوعی می‌تواند مزایای زیادی از جمله توانایی ایجاد تصاویر جذاب و خلاقانه را به همراه داشته باشد، اما در صورت استفاده غیرمسئولانه، می‌تواند به یک «شمشیر دولبه» تبدیل شود. اداره امنیت سایبری و پیشگیری از جرایم پیشرفته، پلیس شهر هانوی، به مردم توصیه می‌کند:

۱. مطلقاً از ایجاد و استفاده از تصاویری از نقشه ویتنام یا تصاویری که نادرست هستند، مقررات قانونی را نقض می‌کنند یا با سنت‌ها، آداب و رسوم و فرهنگ ویتنامی مغایرت دارند، خودداری کنید.

۲. به طور منظم اطلاعات هشدار دهنده را با اقوام، دوستان و جامعه به اشتراک بگذارید تا آگاهی را افزایش داده و از توطئه‌ها و ترفندهای نیروهای متخاصم جلوگیری کنید. اجازه ندهید افراد از رویدادهای مهم سیاسی کشور برای ارتکاب اعمال غیرقانونی سوءاستفاده کنند.

۳. هنگام نصب و استفاده از برنامه‌های هوش مصنوعی تأیید نشده احتیاط کنید تا از خطر جمع‌آوری اطلاعات شخصی خود جلوگیری کنید.

۴. هنگام شرکت در فعالیت‌ها در شبکه‌های اجتماعی، نسبت به خود و جامعه احساس مسئولیت داشته باشید.

با تخلفات طبق مقررات قانونی به شدت برخورد خواهد شد.

به عنوان یک کاربر، هر فرد باید هنگام مشارکت در فضای مجازی، حس مسئولیت‌پذیری روشنی داشته باشد. «دریافت روندها» نباید با جهل یا حمایت غیرعمدی از تخلفات معاوضه شود. در مورد رسانه‌ها، وظیفه نه تنها گزارش اخبار، بلکه جهت‌دهی افکار عمومی و کمک به حفاظت از حقیقت و ارزش‌های ملی است.

منبع: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html