دوگانگی هوش مصنوعی

هوش مصنوعی (AI) فرصت‌های زیادی را ایجاد می‌کند، اما وقتی برای ایجاد ویدیوهای جعلی دیپ‌فیک، تحریف تصویر نیروی پلیس، دولت و تحریک افکار عمومی مورد سوءاستفاده قرار می‌گیرد، به ابزاری خطرناک نیز تبدیل می‌شود. این کلیپ‌های ویرایش‌شده‌ی پیچیده نه تنها اعتماد به مقامات را از بین می‌برند، بلکه نوعی جنگ روانی پیچیده در فضای مجازی نیز هستند.

وقت آن رسیده که هر کاربر به یک «سپر دیجیتال» تبدیل شود، در قبال هر کلیک و اشتراک گذاری هوشیار، بیدار و مسئول باشد.

مزایا و مرز باریک هوش مصنوعی

هوش مصنوعی هیچ‌وقت به اندازه امروز به واقعیت نزدیک نبوده است. تنها با چند کلیک، یک دستور کوتاه می‌تواند صداها، تصاویر و حتی ویدیوهایی با واقع‌گرایی شگفت‌انگیز ایجاد کند. هوش مصنوعی به صرفه‌جویی در زمان، کاهش هزینه‌های تولید محتوا و گشودن عصر رسانه‌های دیجیتال انعطاف‌پذیر کمک می‌کند.

با این حال، توانایی «شبیه‌سازی واقع‌گرایانه» به یک شمشیر دولبه تبدیل شده است. اخیراً، شبکه‌های اجتماعی به طور مداوم ویدیوهایی را منتشر می‌کنند که با فناوری دیپ‌فیک ساخته شده‌اند، که در آن‌ها چهره‌های رهبران پلیس، تصاویر نیروهای عملیاتی در پرونده‌های حساس... بریده و چسبانده می‌شوند، با صداهای تحریف‌شده دوبله می‌شوند تا باعث سوءتفاهم و تفرقه در مردم شوند.

تصاویر صحنه‌سازی‌شده‌ای مانند این، به طور فزاینده‌ای در شبکه‌های اجتماعی ظاهر می‌شوند.

در کلیپی که در تیک تاک منتشر شده، تصویر یک افسر پلیس راهنمایی و رانندگی در حال انجام وظیفه با دیالوگی توهین‌آمیز و هشتگ «جریمه به خاطر خودش» همراه شده بود تا القا کند که این افسر از قدرت خود برای منافع شخصی سوءاستفاده می‌کند. بسیاری از کاربران، به ویژه جوانان، به راحتی این محتوا را باور کردند زیرا تصویر آنقدر واقعی بود و صدا آنقدر به شکل دهان نزدیک بود که تشخیص واقعی از جعلی بسیار دشوار می‌شد.

یک یوتیوبر جوان در دین بین، تنها به این دلیل که می‌خواست توانایی خود در به‌کارگیری فناوری هوش مصنوعی را «به رخ بکشد»، مجبور شد با جریمه اداری و مجبور به عذرخواهی عمومی، بهای آن را بپردازد. بعدازظهر ۲۴ ژانویه، پلیس استان دین بین اعلام کرد که اداره امنیت سایبری و پیشگیری از جرایم فناوری پیشرفته، حکمی مبنی بر جریمه اداری ۷.۵ میلیون دونگ تونگ ون تی (متولد ۲۰۰۱، ساکن منطقه مونگ آنگ) به دلیل استفاده از هوش مصنوعی برای ایجاد یک ویدیوی جعلی با محتوای تحریف‌شده و توهین به نیروی پلیس راهنمایی و رانندگی صادر کرده است.

به طور خاص، در ۷ ژانویه، T. ویدیویی بیش از ۳ دقیقه‌ای با عنوان تکان‌دهنده‌ی «در حین گشت و گذار، پلیس راهنمایی و رانندگی من را تعقیب کرد» در حساب یوتیوب خود با نام «Tuyền Vlog» آپلود کرد. در این کلیپ، تصاویر و موقعیت‌ها با استفاده از فناوری هوش مصنوعی صحنه‌سازی شده و پلیس راهنمایی و رانندگی در حال تعقیب افراد شبیه‌سازی شده بود و با جلوه‌ها و نظرات توهین‌آمیز و افتراآمیز نسبت به مقامات ترکیب شده بود.

ت. در همکاری با پلیس اعتراف کرد که کل محتوای کلیپ یک محصول جعلی با هدف «سرگرمی» و نشان دادن توانایی استفاده از فناوری هوش مصنوعی بوده است. علاوه بر جریمه، مقامات از ت. خواستند که ویدیوی جعلی فوق را حذف کند و در کانال شخصی یوتیوب خود علناً از پلیس راهنمایی و رانندگی عذرخواهی کند.

در عصر انفجار فناوری دیجیتال ، به ویژه توسعه سریع هوش مصنوعی، نیروهای متخاصم و ارتجاعی در سوءاستفاده از این ابزار برای ایجاد تصاویر و داستان‌های ساختگی با هدف تحریف و بدنام کردن چهره نیروهای امنیت عمومی خلق ویتنام تردیدی به خود راه نداده‌اند. عکسی که اخیراً در شبکه‌های اجتماعی منتشر شده است و در آن یک زن باردار با لباس پلیس توسط دو مرد با قیافه‌های "گانگستری" تهدید می‌شود، نمونه بارزی از این ترفند است.

عکسی که با هوش مصنوعی ساخته شده، اخیراً در شبکه‌های اجتماعی به سرعت در حال پخش شدن است.

در نگاه اول، بینندگان به راحتی می‌توانند این را با یک صحنه واقعی اشتباه بگیرند، همراه با یک تیتر جنجالی مانند: «پسر بیچاره پلیس باردار را از کتک خوردن توسط گانگسترها نجات می‌دهد، به طور غیرمنتظره‌ای پرونده‌ای را باز می‌کند که کل کشور را شوکه می‌کند...». با این حال، این در واقع فقط یک صحنه ساختگی است، احتمالاً از یک فیلم یا محصول سرگرمی، یا بدتر از آن، تصویری که توسط هوش مصنوعی ایجاد شده تا احساسات خوانندگان را فریب دهد و آنها را به ترحم و تردید در مورد صحت فعالیت‌های اجرای قانون سوق دهد.

نگران‌کننده‌تر اینکه، انتشار چنین محتوایی نه تنها به اعتبار و وجهه نیروهای امنیت عمومی مردمی که شبانه‌روز در حال حفاظت از امنیت و نظم در جامعه هستند، آسیب می‌رساند، بلکه نوعی جنگ روانی پیچیده نیز محسوب می‌شود. وقتی اعتماد مردم به مسئولین با تصاویر دروغین از بین برود، هدف عمیق نیروهای متخاصم برای ایجاد تفرقه در بلوک بزرگ وحدت ملی، به تدریج محقق خواهد شد.

بنابراین، هر شهروندی باید هوشیاری خود را افزایش دهد، تفکر انتقادی و مهارت‌های لازم برای شناسایی اطلاعات جعلی را داشته باشد و قاطعانه محتوای نادرست را محکوم و رد کند و به حفاظت از بنیان ایدئولوژیک و حفظ ثبات اجتماعی در برابر موج فعلی اطلاعات سمی در فضای مجازی کمک کند.

در شهر هوشی مین، یک کلیپ تقریباً یک دقیقه‌ای ناگهان در رسانه‌های اجتماعی وایرال شد که صحنه‌ای از فردی با لباس پلیس را نشان می‌دهد که در یک دفتر از یک متخلف "اعتراف" می‌گیرد. در این ویدئو، فردی که گمان می‌رود افسر پلیس باشد، رفتاری خشن دارد، دائماً فریاد می‌زند و سرزنش می‌کند، حتی از کلمات رکیک استفاده می‌کند و باعث خشم مردم می‌شود.

با این حال، بلافاصله پس از انتشار گسترده این کلیپ، پلیس شهر هوشی مین به سرعت تحقیقات را آغاز کرد و تأیید کرد که این یک محصول دیپ‌فیک پیچیده است. طبق نتیجه‌گیری، چهره موجود در این ویدیو از ضبط یک کنفرانس داخلی نیروی پلیس استخراج شده، سپس افراد شرور با استفاده از فناوری هوش مصنوعی آن را در یک صحنه ساختگی قرار داده‌اند و بینندگان را به اشتباه باور کرده‌اند که این یک اقدام واقعی است.
به طور خاص، فایل صوتی همراه شامل یک صدای تهدیدآمیز و توهین‌آمیز است که در واقع سخنان واقعی هیچ مقام رسمی نیست، بلکه یک صدای ترکیبی هوش مصنوعی است که برای فریب احساسات بیننده برنامه‌ریزی و ویرایش شده است.

این حادثه نمونه بارزی از استفاده از فناوری دیپ‌فیک برای تحریف و بدنام کردن نیروهای امنیت عمومی مردم است، ترفندی که به طور فزاینده‌ای توسط نیروهای ارتجاعی و ضد دولتی در فضای مجازی مورد سوءاستفاده قرار می‌گیرد. شایان ذکر است که اگر به سرعت افشا نشود، چنین محصولات جعلی می‌تواند منجر به عواقب جدی شود: از بین بردن اعتماد مردم به نیروهای انتظامی، تحریک مقاومت در جامعه و ایجاد شرایطی برای گسترش استدلال‌های دروغین. این یک هشدار آشکار در مورد فوریت بهبود ظرفیت رسانه‌ها برای رد، شناسایی و مبارزه با اخبار جعلی است و در عین حال از هر شهروند می‌خواهد که هوشیار باشد و برای به اشتراک گذاشتن یا اظهار نظر در مورد محتوای تأیید نشده از منابع رسمی عجله نکند.

در یک مورد اخیر دیگر، مربوط به رسیدگی به تخلفات در یک مرکز معاینه فنی خودرو در جنوب، افراد متخاصم ویدیویی جعلی از یکی از فرماندهان پلیس استان را که در دفاع از افسران خاطی صحبت می‌کرد، منتشر کردند. این کلیپ در تلگرام و شبکه‌های اجتماعی با عنوان «با حمایت نیروهای قدرتمند» پخش شد، اما در واقع، این ویدیو محصول هوش مصنوعی بود و به هیچ وجه در هیچ کنفرانس مطبوعاتی یا سند رسمی ظاهر نشد.

یک روند خطرناک بی‌سروصدا در فضای مجازی در حال گسترش است، اینکه افراد شرور از فناوری هوش مصنوعی برای ساخت کلیپ‌های جعلی با هدف کلاهبرداری و باج‌گیری استفاده می‌کنند. اخیراً، بسیاری از افراد قربانی شده‌اند که تصاویرشان، به ویژه تصاویر افراد معتبر مانند وکلا، پزشکان و بازرگانان، در ویدیوهای تبلیغاتی با عنوان «بازیابی پول کلاهبرداری شده آنلاین» ویرایش می‌شود.

در این کلیپ‌ها، از هوش مصنوعی برای جعل صدا و چهره وکیل استفاده می‌شود و بینندگان را به اعتماد وادار می‌کند و از این طریق به راحتی اطلاعات شخصی را در اختیار کلاهبردار قرار می‌دهد یا پول را به او منتقل می‌کند. خطرناک‌تر اینکه، برخی از افراد همچنین از فناوری دیپ‌فیک برای قرار دادن چهره قربانی در ویدیوهای جنسی استفاده می‌کنند و سپس آنها را برای همسران، شوهران یا همکاران خود می‌فرستند تا آنها را تهدید و مجبور به انتقال پول برای "مخفی نگه داشتن موضوع" کنند.

در مارس ۲۰۲۵ حادثه تکان‌دهنده‌ای رخ داد، زمانی که از یک قربانی در هانوی خواسته شد پس از دریافت یک کلیپ جنسی جعلی با تصویر خودش، ده‌ها میلیون دونگ منتقل کند. در همین حال، در شهر هوشی مین، از شخص دیگری تا سقف ۲ میلیارد دونگ اخاذی شد اگر نمی‌خواست آن ویدیوی حساس پخش شود. وزارت امنیت عمومی وارد عمل شده و بسیاری از گروه‌های تبهکار فراملی، عمدتاً از چین و آسیای جنوب شرقی، را که پشت این خطوط قرار داشتند و از سیم‌کارت‌های بی‌ارزش، کیف پول‌های الکترونیکی و پلتفرم‌های شبکه‌های اجتماعی برای پنهان کردن هویت خود استفاده می‌کردند، شناسایی کرده است.

این دیگر یک کلاهبرداری در مقیاس کوچک نیست، بلکه نوعی «جنگ روانی با فناوری پیشرفته» است که عمیقاً از ترس از آبرو و روابط اجتماعی برای اعمال فشار بر قربانی سوءاستفاده می‌کند. اگر هوشیاری و مهارت‌های خود را در شناسایی اطلاعات و رفتارهای غیرمعمول افزایش ندهید، هر کسی می‌تواند به «طعمه» مجرمانی تبدیل شود که از فناوری پیشرفته استفاده می‌کنند. در مواجهه با این موج پیچیده جعل، هر شهروندی باید هوشیار باشد، مطلقاً اطلاعات شخصی خود را بدون تبعیض به اشتراک نگذارد و آماده باشد تا با محکوم کردن اقدامات غیرقانونی، به حفاظت از امنیت خود و جامعه کمک کند.

برای مبارزه با تهدید دیپ‌فیک، به یک «سپر دیجیتالی» از سوی جامعه نیاز است.

طبق گزارش وزارت رادیو، تلویزیون و اطلاعات الکترونیکی (وزارت فرهنگ، ورزش و گردشگری)، در سال ۲۰۲۴، پلتفرم‌های دیجیتال در ویتنام مجبور شدند بیش از ۴۰۰۰ ویدیو حاوی اطلاعات نادرست و تحریف‌شده را حذف کنند که بیشتر آنها محصولاتی بودند که با فناوری هوش مصنوعی مانند دیپ‌فیک، کلون صوتی ساخته شده بودند... فقط از تیک‌تاک - پلتفرمی محبوب در بین جوانان - خواسته شد بیش از ۱۳۰۰ کلیپ دیپ‌فیک را که عمدتاً مربوط به نیروی پلیس، دولت و سیاست‌های اجتماعی بود، حذف کند.

در عصر انفجار فناوری، هوش مصنوعی پتانسیل‌های بی‌نظیری را ایجاد می‌کند، اما خطرات بی‌سابقه‌ای را نیز به همراه دارد، به ویژه محصولات دیپ‌فیک با محتوای تحریف‌شده که به اعتبار سازمان‌های دولتی حمله می‌کنند. یک نظرسنجی توسط موسسه تحقیقات رسانه‌ای MICRI نشان می‌دهد که: ۶۲ درصد از کاربران رسانه‌های اجتماعی در ویتنام بدون هشدار رسانه‌های جریان اصلی یا مقامات نمی‌توانند بین واقعی و جعلی تمایز قائل شوند. این یک «شکاف شناختی» است که نیروهای بد به طور کامل از آن برای انتشار اطلاعات نادرست سوءاستفاده می‌کنند و باعث اختلال روانی اجتماعی می‌شوند.

تانگ ون ت. در کلانتری.

به گفته سرلشکر، دانشیار، دکتر دو کان تین، متخصص جرم‌شناسی، استفاده از هوش مصنوعی برای ایجاد ویدیوهای جعلی از رهبران، ویرایش اظهارات دروغین یا تحریف اقدامات حرفه‌ای نیروی پلیس، ترفندی جدید اما به ویژه خطرناک است. سرلشکر دو کان تین اظهار داشت: «دیپ فیک صرفاً یک محصول سرگرمی نیست، بلکه نوعی جنگ اطلاعاتی مدرن است که قادر به از بین بردن اعتماد، ایجاد بی‌ثباتی اجتماعی و کنترل آن بسیار دشوار است.»

در واقع، کلیپ‌های دستکاری‌شده با هوش مصنوعی بی‌ضرر نیستند، اما اغلب به موضوعات حساسی مانند رسیدگی به تخلفات، بررسی جرایم، مبارزه با فساد و غیره می‌پردازند و باعث سردرگمی و سوءظن مردم نسبت به مجریان قانون می‌شوند. نگران‌کننده‌تر اینکه، بسیاری از ویدیوها قبل از حذف شدن، در پلتفرم‌های بزرگی مانند یوتیوب و تیک‌تاک با صدها هزار بازدید به اشتراک گذاشته می‌شوند و یک اثر ویروسی منفی ایجاد می‌کنند.

هوانگ مین، متخصص رسانه‌های دیجیتال، هشدار می‌دهد: «فقط با یک اشتراک‌گذاری یا یک لایک بدون احتیاط، می‌توانید به تسهیل‌کننده اخبار جعلی تبدیل شوید. هر کاربر اینترنت باید درک کند که رفتار در فضای دیجیتال نیز عواقب واقعی دارد.»

در این زمینه، آنچه بیش از هر زمان دیگری مورد نیاز است، ایجاد یک «سپر دیجیتال» از خود جامعه است: یعنی هوشیاری، مصونیت اطلاعاتی و مسئولیت‌پذیری در قبال محیط شبکه. فناوری ممکن است خنثی باشد، اما نحوه استفاده مردم از آن تعیین می‌کند که آیا هوش مصنوعی به نیروی محرکه توسعه تبدیل می‌شود یا نیرویی که اعتماد اجتماعی را از بین می‌برد. حفظ جبهه ایدئولوژیک، محافظت از تصویر سرباز امنیت عمومی مردم، محافظت از بنیان امنیت ملی است، وظیفه‌ای نه تنها بر عهده بخش عملیاتی، بلکه بر عهده هر شهروندی در عصر دیجیتال.

منبع: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html