دوگانگی هوش مصنوعی

وقت آن رسیده که هر کاربر به یک «سپر دیجیتال» تبدیل شود و با هر کلیک و اشتراک‌گذاری، هوشیار، مراقب و مسئول باشد.

مزایا و مرز باریک هوش مصنوعی

هوش مصنوعی هرگز تا این حد به زندگی روزمره نزدیک نبوده است. تنها با چند کلیک و یک دستور کوتاه، می‌توانیم صداها، تصاویر و حتی ویدیوهایی با واقع‌گرایی شگفت‌انگیز ایجاد کنیم. هوش مصنوعی در زمان صرفه‌جویی می‌کند، هزینه‌های تولید محتوا را کاهش می‌دهد و عصری از رسانه‌های دیجیتال انعطاف‌پذیر را آغاز می‌کند.

با این حال، همین توانایی «شبیه‌سازی واقعیت به شیوه‌ای واقع‌گرایانه» به یک شمشیر دولبه تبدیل شده است. اخیراً، رسانه‌های اجتماعی مملو از ویدیوهایی شده‌اند که با استفاده از فناوری دیپ‌فیک ساخته شده‌اند، ویدیوهایی که در آن‌ها چهره‌های رهبران پلیس و تصاویر مأموران اجرای قانون در موارد حساس با صداگذاری دستکاری و تحریف می‌شوند تا مردم را گمراه و دچار تفرقه کنند.

تصاویر صحنه‌سازی‌شده‌ای مانند این، به طور فزاینده‌ای در رسانه‌های اجتماعی رایج می‌شوند.

در یک کلیپ وایرال شده در تیک‌تاک، تصاویر یک افسر پلیس راهنمایی و رانندگی در حال انجام وظیفه با دیالوگ‌های توهین‌آمیزی همراه شده بود که با هشتگ «جریمه‌ها فقط برای نمایش» همراه بود و تلویحاً نشان می‌داد که این افسر از قدرت خود برای منافع شخصی سوءاستفاده کرده است. بسیاری از کاربران، به ویژه جوانان، به راحتی این محتوا را باور کردند زیرا تصاویر بسیار واقعی بودند و صدا با حرکات لب مطابقت نزدیکی داشت و تشخیص واقعی از جعلی را بسیار دشوار می‌کرد.

یک یوتیوبر جوان در دین بین، صرفاً به دلیل تمایل به «به رخ کشیدن» مهارت‌های فناوری هوش مصنوعی خود، بهای آن را با جریمه اداری و عذرخواهی عمومی اجباری پرداخت کرد. بعدازظهر ۲۴ ژانویه، پلیس استان دین بین اعلام کرد که اداره امنیت سایبری و پیشگیری از جرایم فناوری پیشرفته، جریمه اداری ۷.۵ میلیون دانگ ویتنامی را علیه تونگ ون تی. (متولد ۲۰۰۱، ساکن منطقه مونگ آنگ) به دلیل استفاده از هوش مصنوعی برای ایجاد یک ویدیوی ساختگی حاوی محتوای تحریف‌شده و توهین‌آمیز درباره افسران پلیس راهنمایی و رانندگی صادر کرده است.

به طور خاص، در تاریخ ۷ ژانویه، تی. ویدیویی بیش از ۳ دقیقه را در حساب یوتیوب خود با عنوان تکان‌دهنده «توین ولاگ» آپلود کرد: «در حالی که بیرون بودم، پلیس راهنمایی و رانندگی من را تعقیب کرد.» در این کلیپ، تصاویر و موقعیت‌ها با استفاده از فناوری هوش مصنوعی صحنه‌سازی شده بودند و پلیس راهنمایی و رانندگی را در حال تعقیب شهروندان شبیه‌سازی می‌کردند و با جلوه‌ها و تفسیرهایی ترکیب شده بودند که نسبت به مجریان قانون توهین‌آمیز و افتراآمیز بودند.

ت. در همکاری با پلیس اعتراف کرد که کل محتوای این کلیپ، یک محصول ساختگی بوده که برای اهداف «سرگرمی» و نشان دادن توانایی او در استفاده از فناوری هوش مصنوعی ساخته شده است. علاوه بر جریمه، مقامات به ت. دستور دادند که ویدیوی جعلی را حذف کند و در کانال شخصی یوتیوب خود علناً از نیروی پلیس راهنمایی و رانندگی عذرخواهی کند.

در عصر انقلاب دیجیتال ، به ویژه توسعه سریع هوش مصنوعی، نیروهای متخاصم و ارتجاعی در سوءاستفاده از این ابزار برای ایجاد تصاویر و داستان‌های ساختگی با هدف تحریف و خدشه‌دار کردن وجهه نیروی پلیس خلق ویتنام تردیدی به خود راه نداده‌اند. عکسی که اخیراً در رسانه‌های اجتماعی منتشر شده و زن بارداری را با لباس پلیس نشان می‌دهد که توسط دو مرد با ظاهری "گانگستری" تهدید می‌شود، گواه روشنی بر این تاکتیک است.

این تصویر که با استفاده از هوش مصنوعی ساخته شده، اخیراً در شبکه‌های اجتماعی به سرعت در حال پخش شدن است.

در نگاه اول، بینندگان ممکن است به راحتی این را با یک صحنه واقعی اشتباه بگیرند، همراه با تیترهای هیجان‌انگیزی مانند: «پسر بیچاره، افسر پلیس زن باردار را که مورد حمله گانگسترها قرار گرفته بود نجات می‌دهد و ناخواسته پرونده‌ای را کشف می‌کند که کل کشور را شوکه می‌کند...». با این حال، این در واقع فقط یک صحنه‌سازی شده است، احتمالاً از یک فیلم یا محصول سرگرمی، یا بدتر از آن، تصویری که توسط هوش مصنوعی ایجاد شده است تا احساسات خواننده را فریب دهد و باعث شود آنها احساس ترحم کنند و به اصالت اجرای قانون شک کنند.

نگران‌کننده‌تر اینکه، انتشار چنین محتوایی نه تنها به اعتبار و وجهه نیروی پلیس مردمی که شبانه‌روز برای حفاظت از امنیت و نظم جامعه تلاش می‌کنند، آسیب می‌رساند، بلکه نوعی جنگ روانی پیچیده را نیز تشکیل می‌دهد. وقتی اعتماد مردم به مسئولین با تصاویر فریبنده از بین می‌رود، انگیزه‌های پنهان نیروهای متخاصم برای ایجاد تفرقه در وحدت ملی به تدریج محقق می‌شود.

بنابراین، هر شهروندی باید هوشیاری خود را افزایش دهد، مهارت‌های تفکر انتقادی و توانایی شناسایی اطلاعات جعلی را در خود پرورش دهد و قاطعانه محتوای نادرست را محکوم و رد کند و در مواجهه با موج فعلی اطلاعات مضر در اینترنت، به حفاظت از بنیان ایدئولوژیک و حفظ ثبات اجتماعی کمک کند.

در شهر هوشی مین، یک کلیپ ویدیویی تقریباً یک دقیقه‌ای به طور غیرمنتظره‌ای در رسانه‌های اجتماعی وایرال شد که نشان می‌داد فردی با لباس پلیس، مظنونی را در یک دفتر "مجبور" به اعتراف به تخلف رانندگی می‌کند. در این ویدیو، فردی که گمان می‌رود افسر پلیس باشد، رفتاری پرخاشگرانه از خود نشان می‌دهد، مدام فریاد می‌زند و حتی از الفاظ رکیک استفاده می‌کند که باعث خشم عمومی می‌شود.

با این حال، اندکی پس از انتشار گسترده این کلیپ، پلیس شهر هوشی مین به سرعت تحقیقات خود را آغاز کرد و تأیید کرد که این یک دیپ‌فیک پیچیده است. طبق یافته‌های آنها، چهره‌های موجود در این ویدیو از ضبط یک کنفرانس داخلی پلیس استخراج شده، سپس توسط افراد شرور با استفاده از فناوری هوش مصنوعی دستکاری شده و روی یک صحنه ساختگی قرار گرفته‌اند و بینندگان را به این باور رسانده‌اند که این یک رویداد واقعی است.
به طور خاص، فایل صوتی همراه شامل صداهای تهدیدآمیز و توهین‌آمیزی است که در واقع سخنان واقعی هیچ مقام رسمی نیستند، بلکه صداهای ترکیبی هوش مصنوعی هستند که برای فریب احساسات بیننده برنامه‌ریزی و ویرایش شده‌اند.

این حادثه نمونه بارزی از استفاده از فناوری دیپ‌فیک برای تحریف و بدنام کردن نیروی پلیس خلق است، تاکتیکی که به طور فزاینده‌ای توسط نیروهای ارتجاعی و برانداز در فضای مجازی مورد سوء استفاده قرار می‌گیرد. نکته قابل توجه این است که اگر به سرعت افشا نشود، چنین محصولات جعلی می‌توانند منجر به عواقب جدی شوند: تضعیف اعتماد عمومی به نیروهای انتظامی، تحریک مقاومت در جامعه و تسهیل انتشار روایت‌های دروغین. این به عنوان هشداری روشن در مورد نیاز فوری به افزایش قابلیت‌های ارتباطی برای رد، شناسایی و مبارزه با اخبار جعلی عمل می‌کند و از هر شهروندی می‌خواهد که هوشیار باشد و از به اشتراک گذاشتن یا اظهار نظر عجولانه در مورد محتوای تأیید نشده از منابع رسمی خودداری کند.

در یک مورد اخیر دیگر، مربوط به رسیدگی به تخلفات در یک مرکز معاینه فنی خودرو در جنوب، عناصر معاند ویدئویی جعلی از یک فرمانده پلیس استانی را منتشر کردند که در دفاع از مقامات فاسد صحبت می‌کرد. این کلیپ که در تلگرام و رسانه‌های اجتماعی با عنوان «با حمایت نیروهای قدرتمند» پخش شد، در واقع محصول هوش مصنوعی بود و در هیچ کنفرانس مطبوعاتی یا اسناد رسمی ظاهر نشد.

یک روند خطرناک به طور خاموش در فضای آنلاین در حال گسترش است: بازیگران مخرب از فناوری هوش مصنوعی برای ایجاد ویدیوهای جعلی با هدف کلاهبرداری و اخاذی استفاده می‌کنند. اخیراً، بسیاری از افراد قربانی شده‌اند، زیرا تصاویر آنها، به ویژه تصاویر افراد دارای احترام اجتماعی مانند وکلا، پزشکان و بازرگانان، روی ویدیوهایی که "بازیابی پول از دست رفته در کلاهبرداری‌های آنلاین" را تبلیغ می‌کنند، قرار می‌گیرد.

در این کلیپ‌ها، از هوش مصنوعی برای تقلید صدا و چهره وکلا استفاده می‌شود و باعث می‌شود بینندگان حرف کلاهبرداران را باور کنند و به راحتی اطلاعات شخصی خود را ارائه دهند یا به آنها پول منتقل کنند. حتی خطرناک‌تر اینکه، برخی از مجرمان از فناوری دیپ‌فیک برای قرار دادن چهره قربانیان روی ویدیوهای جنسی استفاده می‌کنند، سپس آنها را برای همسران یا همکاران خود می‌فرستند با این هدف که آنها را تهدید یا مجبور به انتقال پول برای "سکوت" کنند.

در مارس ۲۰۲۵ حادثه‌ای تکان‌دهنده رخ داد، زمانی که از یک قربانی در هانوی خواسته شد پس از دریافت یک ویدیوی جنسی جعلی که او را نشان می‌داد، ده‌ها میلیون دونگ منتقل کند. در همین حال، در شهر هوشی مین، از شخص دیگری در صورت عدم تمایل به پخش این ویدیوی حساس، ۲ میلیارد دونگ اخاذی شد. وزارت امنیت عمومی تحقیقاتی را آغاز کرد و چندین گروه تبهکار فراملی، عمدتاً از چین و آسیای جنوب شرقی، را که در پشت این شبکه‌ها قرار داشتند، شناسایی کرد. این گروه‌ها از سیم‌کارت‌های یکبار مصرف، کیف پول‌های الکترونیکی و پلتفرم‌های رسانه‌های اجتماعی برای پنهان کردن هویت خود استفاده می‌کردند.

این دیگر یک کلاهبرداری کوچک نیست، بلکه نوعی «جنگ روانی پیشرفته» است که عمیقاً از ترس‌های ناموسی و روابط اجتماعی برای تحت فشار قرار دادن قربانیان سوءاستفاده می‌کند. بدون افزایش هوشیاری و مهارت در شناسایی اطلاعات و رفتارهای غیرمعمول، هر کسی می‌تواند طعمه این جنایتکاران پیشرفته شود. در مواجهه با این موج پیچیده جعل هویت، هر شهروندی باید هوشیار باشد، از به اشتراک گذاشتن بی‌قید و شرط اطلاعات شخصی خود کاملاً خودداری کند و آماده باشد تا علیه فعالیت‌های غیرقانونی صحبت کند و به حفاظت از امنیت خود و جامعه کمک کند.

برای مقابله با تهدید دیپ‌فیک، به یک «سپر دیجیتالی» از سوی جامعه نیاز است.

طبق گزارش وزارت پخش، تلویزیون و اطلاعات الکترونیکی (وزارت فرهنگ، ورزش و گردشگری)، در سال ۲۰۲۴، پلتفرم‌های دیجیتال در ویتنام مجبور شدند بیش از ۴۰۰۰ ویدیو حاوی اطلاعات نادرست و تحریف‌شده را حذف کنند که اکثر آنها محصولاتی بودند که با استفاده از فناوری هوش مصنوعی مانند دیپ‌فیک و کلون‌های صوتی ساخته شده بودند. تنها از تیک‌تاک - پلتفرمی محبوب در بین جوانان - خواسته شد بیش از ۱۳۰۰ کلیپ دیپ‌فیک را که عمدتاً مربوط به نیروی پلیس، دولت و سیاست‌های اجتماعی بود، حذف کند.

در عصر شکوفایی فناوری، هوش مصنوعی در حال گشودن پتانسیل‌های پیشگامانه‌ای است، اما خطرات بی‌سابقه‌ای را نیز به همراه دارد، به ویژه محصولات دیپ‌فیک حاوی محتوای تحریف‌شده‌ای که به اعتبار سازمان‌های دولتی حمله می‌کنند. یک نظرسنجی توسط موسسه تحقیقات رسانه‌ای MICRI نشان می‌دهد که ۶۲ درصد از کاربران رسانه‌های اجتماعی در ویتنام نمی‌توانند بدون هشدار رسانه‌های جریان اصلی یا مقامات، اطلاعات واقعی را از جعلی تشخیص دهند. این یک «شکاف شناختی» است که نیروهای مخرب به طور کامل از آن برای انتشار اطلاعات نادرست و ایجاد اختلال در روانشناسی اجتماعی سوءاستفاده می‌کنند.

تانگ ون ت. در کلانتری.

به گفته سرلشکر، دانشیار و دکتر دو کانه تین، متخصص جرم‌شناسی، استفاده از هوش مصنوعی برای ایجاد ویدیوهای جعلی که خود را جای رهبران جا می‌زنند، اظهارات دروغین را ویرایش می‌کنند یا اقدامات حرفه‌ای نیروی پلیس را تحریف می‌کنند، تاکتیکی جدید اما به ویژه خطرناک است. سرلشکر دو کانه تین اظهار داشت: «دیپ فیک صرفاً یک محصول سرگرمی نیست، بلکه نوعی جنگ اطلاعاتی مدرن است که قادر به تضعیف اعتماد، ایجاد بی‌ثباتی اجتماعی و کنترل آن بسیار دشوار است.»

در واقع، کلیپ‌های دستکاری‌شده با هوش مصنوعی به هیچ وجه بی‌ضرر نیستند؛ آن‌ها اغلب موضوعات حساسی مانند رسیدگی به تخلفات، بررسی جرایم و مبارزه با فساد را هدف قرار می‌دهند و باعث سردرگمی عمومی و بی‌اعتمادی به مجریان قانون می‌شوند. نگران‌کننده‌تر اینکه، بسیاری از ویدیوها در پلتفرم‌های اصلی مانند یوتیوب و تیک‌تاک به اشتراک گذاشته می‌شوند و قبل از حذف شدن، صدها هزار بازدید کسب می‌کنند و اثر موجی منفی ایجاد می‌کنند.

هوانگ مین، متخصص رسانه‌های دیجیتال، هشدار می‌دهد: «فقط یک اشتراک‌گذاری یا لایک بی‌دقت می‌تواند شما را به همدست اخبار جعلی تبدیل کند. هر کاربر اینترنت باید درک کند که اقدامات در فضای دیجیتال نیز عواقب واقعی دارند.»

در این زمینه، آنچه بیش از هر زمان دیگری مورد نیاز است، ایجاد یک «سپر دیجیتال» از درون خود جامعه است: یعنی هوشیاری، مصونیت اطلاعاتی و احساس مسئولیت نسبت به محیط آنلاین. فناوری ممکن است خنثی باشد، اما نحوه استفاده مردم از آن تعیین می‌کند که آیا هوش مصنوعی به نیروی محرکه توسعه تبدیل می‌شود یا به نیرویی مخرب علیه اعتماد اجتماعی. حفظ ثبات ایدئولوژیک و محافظت از وجهه افسر پلیس، محافظت از بنیان امنیت ملی است - وظیفه‌ای نه تنها برای مقامات مربوطه، بلکه برای هر شهروندی در عصر دیجیتال.

منبع: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html