وقتی امنیت اطلاعات تهدید می‌شود، مراقب تصاویر تولید شده توسط هوش مصنوعی باشید

روند ایجاد تصاویر با استفاده از هوش مصنوعی در حال گسترش است و این امر خطر انتشار اطلاعات نادرست را به همراه دارد و بر امنیت سایبری و حاکمیت ملی در تعطیلات مهم تأثیر می‌گذارد.

در عصر توسعه سریع فناوری، روند استفاده از هوش مصنوعی (AI) برای خلق تصاویر در پلتفرم‌های شبکه‌های اجتماعی در حال گسترش است و توجه بسیاری از کاربران، به ویژه جوانان را به خود جلب می‌کند. عکس‌های ایجاد شده با هوش مصنوعی بسیار خلاقانه هستند و با هدف سرگرمی، شخصی‌سازی محتوا و بیان شخصیت مورد استفاده قرار می‌گیرند. با این حال، در پس این جذابیت، خطرات بالقوه‌ای در رابطه با امنیت و ایمنی اطلاعات وجود دارد.

سرگرمی یا محرک بالقوه؟

به گفته پلیس هانوی ، اخیراً روند استفاده از هوش مصنوعی (AI) برای ایجاد تصاویر مورد توجه بسیاری از کاربران قرار گرفته است. اگرچه این تصاویر عمدتاً برای اهداف سرگرمی منتشر می‌شوند، اما انتشار آنها خطرات زیادی را به همراه دارد و به طور مستقیم بر امنیت و ایمنی اطلاعات، به ویژه در هشتادمین سالگرد انقلاب آگوست و روز ملی ۲ سپتامبر این کشور، تأثیر می‌گذارد.

در حال حاضر، کاربران می‌توانند به راحتی از طریق نرم‌افزار هوش مصنوعی به تصاویر دسترسی پیدا کرده و آنها را ایجاد کنند و از این تصاویر به عنوان آواتار، جاسازی اخبار و مقالات در شبکه‌های اجتماعی مانند زالو، تیک تاک، فیسبوک و... استفاده کنند. با این حال، اگر کاربران مراقب نباشند، از نظر سیاسی بی‌تفاوت باشند و تصاویر تولید شده توسط هوش مصنوعی را کنترل نکنند، ممکن است از تصاویر نادرستی مانند تصاویر نقشه ویتنام که فاقد اطلاعات مربوط به مجمع‌الجزایر هوانگ سا و ترونگ سا است، استفاده کنند؛ تصاویری که برای مردم ویتنام مناسب نیستند. استفاده از این تصاویر نادرست، تأثیر زیادی بر افکار عمومی در فضای مجازی خواهد گذاشت و می‌تواند برداشت نادرستی در مورد مسئله حاکمیت مرزی و همچنین تاریخ و سنت‌های فرهنگی ملی ایجاد کند.

هوش مصنوعی تصویری از یک آئو دای (نوعی نان ویتنامی) ایجاد می‌کند که روی آن نقشه ویتنام بدون ذکر مجمع‌الجزایر هوانگ سا و ترونگ سا چاپ شده است. (عکس: پلیس شهر هانوی)

یک کاربر رسانه‌های اجتماعی در هانوی با استفاده از نرم‌افزار هوش مصنوعی، عکسی از یک آئو دای (نوعی غذای ویتنامی) با نقشه چاپ شده ویتنام روی آن ایجاد کرد و سپس آن را در تیک‌تاک منتشر کرد تا به روند «غرور ملی» پاسخ دهد. با این حال، تصویر ایجاد شده توسط هوش مصنوعی، جزایر پاراسل و اسپراتلی را نشان نمی‌داد. این پست به سرعت ویروسی شد و هزاران بازدید و اشتراک‌گذاری را به خود جلب کرد، اما با واکنش شدید جامعه آنلاین نیز روبرو شد. مقامات وارد عمل شدند و خواستار حذف محتوا شدند و نسبت به انتشار اطلاعات نادرست مربوط به حاکمیت ملی هشدار دادند.

هشدار از سوی مسئولین

به گفته آقای وو نگوک سون، مدیر فنی شرکت ملی فناوری امنیت سایبری ویتنام - NCS، اخیراً هوش مصنوعی و برنامه‌های مبتنی بر آن در بسیاری از زمینه‌های زندگی به شدت در حال توسعه بوده‌اند. ChatGPT در واقع برنامه‌ای است که به راحتی برای اکثر افرادی که متخصص فناوری اطلاعات نیستند قابل دسترسی است، بنابراین به سرعت تب و تاب ایجاد کرد.

از نظر فناوری، ChatGPT در مقایسه با سایر فناوری‌های مبتنی بر هوش مصنوعی موجود، پیشرفت چشمگیری محسوب نمی‌شود، اما از نظر داده‌ها، ChatGPT در زمینه‌های مختلف و بر اساس حجم عظیمی از داده‌ها بسیار موفق بوده و باعث شده کاربران احساس کنند که "همه چیز را می‌دانند". این موضوع تا به امروز نیز جذابیت ChatGPT را دو چندان کرده است.

از نظر امنیتی، ChatGPT خود برای انجام خدمات پرسش و پاسخ متولد شده است، بنابراین بزرگترین خطر این خواهد بود که آیا محتوایی که ChatGPT به کاربران پاسخ می‌دهد توسط کسی کنترل و "مسموم" می‌شود تا ChatGPT اطلاعات نادرست ارائه دهد؟ در حال حاضر، هیچ مدرکی مبنی بر حمله به ChatGPT وجود ندارد، زیرا داده‌های ورودی توسط این شرکت توسط انسان‌ها کنترل، غربالگری و حتی برچسب‌گذاری می‌شوند، بنابراین خطرات فوق محدود شده‌اند. با این حال، در آینده، هنگامی که این سرویس به گسترش خود ادامه می‌دهد، نیاز به داده‌های ورودی بیشتر به طرز چشمگیری افزایش می‌یابد، خطرات کنترل داده‌ها، تولیدکنندگان را ملزم به اتخاذ اقدامات امنیتی سختگیرانه‌تری خواهد کرد.

نرم‌افزار هوش مصنوعی می‌تواند مزایای زیادی از جمله توانایی ایجاد تصاویر جذاب و خلاقانه را به همراه داشته باشد، اما در صورت استفاده غیرمسئولانه، می‌تواند به یک «شمشیر دولبه» تبدیل شود. اداره امنیت سایبری و پیشگیری از جرایم پیشرفته، پلیس شهر هانوی، به مردم توصیه می‌کند:

۱. مطلقاً از ایجاد و استفاده از تصاویری از نقشه ویتنام یا تصاویری که نادرست، ناقض قانون یا مغایر با سنت‌ها، آداب و رسوم و فرهنگ ویتنامی هستند، خودداری کنید.

۲. به طور منظم اطلاعات هشدار دهنده را با اقوام، دوستان و جامعه به اشتراک بگذارید تا آگاهی را افزایش داده و از توطئه‌ها و ترفندهای نیروهای متخاصم جلوگیری کنید. اجازه ندهید افراد از رویدادهای مهم سیاسی کشور برای ارتکاب اعمال غیرقانونی سوءاستفاده کنند.

۳. هنگام نصب و استفاده از برنامه‌های هوش مصنوعی تأیید نشده، مراقب باشید تا از خطر جمع‌آوری اطلاعات شخصی خود جلوگیری کنید.

۴. هنگام شرکت در فعالیت‌ها در شبکه‌های اجتماعی، نسبت به خود و جامعه احساس مسئولیت داشته باشید.

با تخلفات طبق مقررات قانونی به شدت برخورد خواهد شد.

به عنوان یک کاربر، هر فرد باید هنگام مشارکت در فضای مجازی، حس مسئولیت‌پذیری روشنی داشته باشد. «دریافت روندها» نباید با جهل یا حمایت غیرعمدی از تخلفات معاوضه شود. در مورد رسانه‌ها، وظیفه نه تنها گزارش اخبار، بلکه جهت‌دهی افکار عمومی و کمک به حفاظت از حقیقت و ارزش‌های ملی است.

منبع: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html