مبارزه افسانه‌ای علیه اطلاعات نادرست، جعل عمیق و کلاهبرداری‌ها

(NB&CL) علاوه بر جنگ، خشونت مسلحانه یا اختلافات عمیق ژئوپلیتیکی جهانی، جهان در سال ۲۰۲۴ همچنان با نبرد بزرگ دیگری علیه اطلاعات نادرست، اخبار جعلی و کلاهبرداری روبرو است. این مشکل، داستانی افسانه‌ای خواهد بود که پایان دادن به آن دشوار است و پیش‌بینی می‌شود اگر جهان برای اتخاذ اقدامات مؤثر دست به دست هم ندهد، جدی‌تر شود.

هرج و مرج اطلاعاتی - خطری فزاینده

اختلال در اطلاع‌رسانی، به‌ویژه اطلاعات نادرست و کلاهبرداری سایبری، به عنوان یک «بیماری همه‌گیر جهانی» و نبردی مشترک در جهان در نظر گرفته می‌شود که در آن سازمان‌های رسانه‌ای سنتی، با مأموریت خود در حفاظت از حقیقت، باید نقش رهبری را ایفا کنند. با این حال، این نبرد تنها در صورتی می‌تواند موفقیت‌آمیز باشد که اقدامات اساسی و جدی در هر کشور و سازمان‌های جهانی انجام شود.

اخبار جعلی، اطلاعات نادرست و به ویژه فعالیت‌های کلاهبردارانه، اکنون به پیامدهای اجتناب‌ناپذیر و جنبه‌های منفی ورود جهان به عصر جدید رسانه تبدیل شده‌اند. به عبارت ساده، صحنه دیگر فقط برای آژانس‌های رسانه‌ای و روزنامه‌های سانسور شده نیست. همانطور که می‌دانیم، انفجار اینترنت، دستگاه‌های پیشرفته و به ویژه شبکه‌های اجتماعی، این امکان را برای همه فراهم کرده است که به یک «روزنامه‌نگار»، «خبرنگار» یا حتی «سخنگو» تبدیل شوند و میلیون‌ها نفر آنها را دنبال کنند.

شبکه‌های اجتماعی، دنیایی بدون قانون

هر چیزی دو رو دارد. انفجار شبکه‌های اجتماعی مزایای زیادی به همراه داشته است، از جمله کمک به انتشار سریع و گسترده اطلاعات و دانش به شکلی تماشایی. امروزه، اطلاعات مربوط به یک حادثه تنها در عرض چند دقیقه به همه می‌رسد، حتی اگر در آن سوی دنیا باشد. یا اطلاعات مربوط به بلایای طبیعی مانند سیل، طوفان، آتش‌سوزی جنگل‌ها... نیز به سرعت توسط همه از طریق پلتفرم‌های شبکه‌های اجتماعی به‌روزرسانی یا به اشتراک گذاشته می‌شوند و به انتشار یا هشدار مؤثر کمک می‌کنند.

با این حال، در کنار جنبه‌های خوب، شبکه‌های اجتماعی و پلتفرم‌های اشتراک‌گذاری اجتماعی، عواقب نگران‌کننده‌ای را نیز به همراه دارند. ترسناک‌تر اینکه، نه تنها انسان‌ها، بلکه ماشین‌ها و به ویژه نفوذ طوفانی هوش مصنوعی (AI)، دنیای اینترنت را به طور کلی و پلتفرم‌های فناوری را به طور خاص به مکانی با خطرات بسیار زیاد تبدیل می‌کنند.

«همه‌گیری اطلاعات» در شبکه‌های اجتماعی

طبق آماری که توسط ردلاین در پایان ژوئن ۲۰۲۴ منتشر شد، ۴.۹ میلیارد کاربر رسانه‌های اجتماعی در سراسر جهان وجود دارد. طبق این نظرسنجی از آمریکایی‌ها، اکثر کاربران رسانه‌های اجتماعی به صحت اطلاعات منتشر شده در این پلتفرم‌ها، از فیس‌بوک، تیک‌تاک گرفته تا یوتیوب، اعتماد ندارند. بنابراین، این سازمان از اصطلاح «اینفودمی» برای صحبت در مورد وضعیت فعلی اطلاعات نادرست در رسانه‌های اجتماعی استفاده کرد.

دنیای شبکه‌های اجتماعی مانند یک جنگل باستانی است که تقریباً هیچ قانونی ندارد. مردم با زندگی در آن از باروری، آزادی و طراوت لذت می‌برند، اما در کنار آن تله‌های مرگباری نیز وجود دارد. تاکنون، تقریباً هر کشوری هنوز با مدیریت و سازماندهی آن «جنگل اولیه» دست و پنجه نرم می‌کند و حتی اولین گام‌ها را برای رسیدگی به تخلفات برمی‌دارد، در حالی که این «جهان» تمام بشریت را فرا گرفته است.

در پایان نوامبر امسال، استرالیا اولین کشور در جهان شد که رسماً قانونی را وضع کرد که کودکان را از ورود به دنیای جذاب، اما خطرناک و تقریباً بی‌قانون «بدوی» منع می‌کند. به طور خاص، استرالیا استفاده کودکان زیر ۱۶ سال از شبکه‌های اجتماعی را ممنوع کرد و در صورت تخلف شبکه‌های اجتماعی، جریمه‌های سنگینی تا ۳۲ میلیون دلار آمریکا اعمال خواهد کرد.

در این زمینه، انفجار اخبار جعلی، اطلاعات نادرست و به ویژه کلاهبرداری در شبکه‌های اجتماعی (و همچنین از طریق سایر اشکال فناوری پیشرفته مانند برنامه‌های نرم‌افزاری، وب‌سایت‌های کلاهبرداری و غیره) همچنان به یک مشکل جهانی تبدیل می‌شود. در ویتنام، هر روز داستان‌های دلخراشی درباره قربانیان کلاهبرداران به اشکال مختلف در فضای مجازی می‌شنویم. در جهان، این نیز برای هر کشوری یک مشکل است.

در ماه مارس امسال، اینترپل گزارش داد که کلاهبرداری سایبری در جنوب شرقی آسیا در سطح جهانی گسترش یافته و سالانه تا ۳ تریلیون دلار (برابر با تولید ناخالص داخلی فرانسه) درآمد کسب می‌کند. حتی یک غول فناوری بریتانیایی پس از آنکه کلاهبرداران با استفاده از جعل عمیق، خود را به جای یک مدیر ارشد جا زدند تا دستور انتقال پول را صادر کنند، ۲۵ میلیون دلار ضرر کرد. البته اینها تنها چند نمونه از میلیون‌ها کلاهبرداری سایبری هستند.

مقابله با انتشار اطلاعات نادرست در رسانه‌های اجتماعی، ماموریت غیرممکن؟

اگرچه کشورها و سازمان‌های جهانی تلاش‌های مداومی برای جلوگیری یا مجازات فعالیت‌های غیرقانونی در فضای مجازی، به ویژه در پلتفرم‌های اجتماعی بزرگ مانند تیک تاک، فیسبوک یا ایکس، انجام می‌دهند، اما تعداد پرونده‌های رسیدگی شده بسیار کم است.

نکته قابل توجه‌تر این است که تاکنون تقریباً هیچ کشور یا سازمانی شبکه‌های اجتماعی را به خاطر اعمال نادرستی مانند انتشار اطلاعات نادرست یا حتی نقض قانون مسئول ندانسته است. در ماه مه امسال، خود متا اعتراف کرد که محتوایی را پیدا کرده است که «احتمالاً توسط هوش مصنوعی تولید شده است» و برای تحریف یا فریب در پلتفرم‌های فیس‌بوک و اینستاگرام آن استفاده شده است. این بیانیه نشان می‌دهد که خود شبکه‌های اجتماعی معتقدند که هنگام انتشار اطلاعات مضر «بی‌گناه» هستند، در غیر این صورت چنین «خوداعترافی» نمی‌کردند.

در واقع، شرکت‌های بزرگ فناوری مانند متا، تیک‌تاک، گوگل، مایکروسافت یا ایکس، مجبور شده‌اند میلیاردها دلار جریمه در سراسر جهان به دلیل تخلفات خود بپردازند، اما این جریمه‌ها فقط مربوط به نقض مقررات حفظ حریم خصوصی کاربران یا قوانین ضد انحصار است و تقریباً هیچ مجازاتی علیه آنها به دلیل اجازه دادن به وقوع تخلفات در «خانه» آنها وجود نداشته است.

قابل توجه‌ترین پرونده در این زمینه، دستگیری پاول دوروف، رئیس تلگرام، در فرانسه بود که به تسهیل فعالیت‌های مجرمانه در این پلتفرم پیام‌رسان متهم شد. با این حال، این دستگیری که گفته می‌شود دارای اتهامات سیاسی است، مخفیانه انجام شد. این پرونده مانند یک پرونده حقوقی عمومی علیه یک شبکه اجتماعی یا یک شرکت معمولی نبود. در واقع، هرگز حتی یک مجازات هم برای تلگرام در رابطه با فعالیت‌های مجرمانه در این پلتفرم وجود نداشته است، حتی با وجود اینکه سازمان ملل متحد در اکتبر ۲۰۲۴ گزارشی منتشر کرد مبنی بر اینکه این پلتفرم ابزاری برای باندهای جنایتکار برای استفاده از معاملات غیرقانونی است.

جهان هنوز در تلاش است تا مشکل اخبار جعلی، اطلاعات نادرست و کلاهبرداری در پلتفرم‌های رسانه‌های اجتماعی را مدیریت کند. عکس از: IJNET

بنابراین، حتی با وجود چنین فعالیت‌های غیرقانونی آشکاری، اگر نتوان با پلتفرم‌های رسانه‌های اجتماعی یا اشتراک‌گذاری در انجمن‌ها مقابله کرد، واضح است که کنترل محتوای سمی، اخبار جعلی و اطلاعات نادرست بسیار دور از دسترس است.

بنابراین، پلتفرم‌ها نه تنها نمی‌ترسند، بلکه به طور فزاینده‌ای نشانه‌هایی از «خودسرانه عمل کردن» را نشان می‌دهند و از طریق الگوریتم‌های پیچیده‌تر خود، اطلاعات بحث‌برانگیز، جنجالی، بی‌معنی یا سمی را برای جذب بیننده تشویق می‌کنند. شایان ذکر است که شرکت‌های بزرگ فناوری نیز آماده‌اند تا هر اقدامی را برای مجازات خود در این مورد تحت فشار قرار دهند یا به چالش بکشند. ایلان ماسک، میلیاردر و مالک شبکه اجتماعی X، در سپتامبر 2024 مخالفت خود را با لایحه جدید استرالیا که پیشنهاد جریمه شرکت‌های رسانه‌های اجتماعی در صورت عدم جلوگیری از انتشار اطلاعات نادرست آنلاین را می‌دهد، ابراز کرد.

طبق این لایحه که هنوز استرالیایی است، پلتفرم‌های اینترنتی می‌توانند تا ۵٪ از درآمد جهانی خود را به دلیل انتشار اطلاعات نادرست جریمه کنند. سایر پلتفرم‌های بزرگ فناوری مانند گوگل و متا نیز نگرانی‌های خود را ابراز کرده و لایحه جدید استرالیا را به چالش کشیده‌اند. توجه داشته باشید که این لایحه همچنین یک لایحه نادر در جهان است که به جریمه شبکه‌های اجتماعی به دلیل انتشار اطلاعات نادرست، اخبار جعلی و فعالیت‌های کلاهبرداری اشاره می‌کند.

اگر به دنیای رسانه‌ها و روزنامه‌نگاری سنتی نگاه کنیم، پذیرش این تناقض دشوار است. همه می‌دانند که اگر یک روزنامه یا کانال تلویزیونی حتی یک اشتباه حرفه‌ای کوچک مرتکب شود، چه برسد به ارائه اطلاعات نادرست یا غیرقانونی، کل آن سازمان می‌تواند به شدت مجازات شود، حداقل خوانندگان از آن روی برمی‌گردانند، نه فقط خبرنگار یا سردبیری که اطلاعات را ارائه داده است، مسئول شناخته شود.

«همه‌گیری جهانی» از کنترل خارج می‌شود

می‌توان گفت که مشکل اطلاعات نادرست، اخبار جعلی، اخبار مسموم و کلاهبرداری از هر جنگ یا بیماری همه‌گیری جدی‌تر است، چرا که می‌تواند کل یک نسل در سطح جهان، به ویژه جوانان را تحت تأثیر قرار دهد. مطالعات زیادی انجام شده است که نشان می‌دهد چگونه شبکه‌های اجتماعی، به ویژه ویژگی‌های اعتیادآور ویدیوهای کوتاه فیس‌بوک، تیک‌تاک یا گوگل، اثرات مضری بر سلامت جسمی و روانی کودکان دارند.

یونیسف در یک مطالعه اخیر خاطرنشان کرد که رسانه‌های اجتماعی به گونه‌ای طراحی شده‌اند که توجه کاربران را تا حد امکان جلب کنند و از تعصبات و آسیب‌پذیری‌های روانی ما، مانند میل به تأیید یا ترس از طرد شدن، سوءاستفاده کنند. استفاده بیش از حد از رسانه‌های اجتماعی با احساس حسادت، حقارت و رضایت کم از زندگی مرتبط دانسته شده است. مطالعات حتی نشان داده‌اند که این عادت می‌تواند منجر به علائم افسردگی، اضطراب و کمبود خواب شود که رایج‌ترین آنها بیماری روانی است...

تیلور سویفت، خواننده، یکی از سلبریتی‌هایی است که قربانی دیپ‌فیک هوش مصنوعی شده است. عکس: هربرت وانگ

مقررات ویتنام مبنی بر الزام شبکه‌های اجتماعی به احراز هویت کاربران، به زودی اجرایی خواهد شد.

فرمان ۱۴۷/۲۰۲۴/ND-CP در مورد مدیریت، ارائه و استفاده از خدمات اینترنتی و اطلاعات آنلاین، که اخیراً توسط دولت ویتنام صادر شده است، از ۲۵ دسامبر ۲۰۲۴ لازم‌الاجرا خواهد بود. بر این اساس، این آیین‌نامه شبکه‌های اجتماعی را ملزم به احراز هویت کاربران از طریق شماره تلفن یا شماره شناسایی شخصی می‌کند و فقط حساب‌های کاربری احراز هویت شده مجاز به ارائه اطلاعات (نوشتن مقاله، نظر دادن، پخش زنده) و اشتراک‌گذاری اطلاعات در شبکه‌های اجتماعی هستند. انتظار می‌رود این فرمان، انتشار اطلاعات جعلی و گمراه‌کننده، به ویژه فعالیت‌های کلاهبرداری در شبکه‌های اجتماعی را تا حد زیادی محدود کند.

نمونه‌های زیادی وجود دارد که نشان می‌دهد چگونه اطلاعات نادرست، اخبار جعلی و جعل عمیق می‌توانند تأثیر جدی بر زندگی واقعی داشته باشند و به یک تهدید جهانی تبدیل شوند. در ماه اوت امسال، به دلیل انتشار ادعای دروغین در رسانه‌های اجتماعی مبنی بر اینکه مظنون قتل یک دختر جوان با چاقو در بریتانیا، یک مهاجر مسلمان رادیکال (که در واقع بریتانیایی بود) بوده است، شورش‌هایی رخ داد. این شورش‌ها منجر به دستگیری هزاران نفر توسط پلیس شد.

در سوءقصد ژوئیه ۲۰۲۴ به دونالد ترامپ، دنیای رسانه‌های اجتماعی نیز مملو از اخبار جعلی یا نظریه‌های توطئه شد، مانند مورد مظنون دانستن یک روزنامه‌نگار ایتالیایی (در واقع، یک آمریکایی ۲۰ ساله). علاوه بر این، در رسانه‌های اجتماعی تحریفاتی نیز وجود داشت مبنی بر اینکه مظنون چینی بوده یا اینکه این حادثه یک «سناریوی صحنه‌سازی شده» بوده است. انتشار اطلاعات نادرست همچنین نفرت نسبت به همه درگیری‌ها و نقاط داغ جهان، مانند جنگ روسیه و اوکراین، اسرائیل و فلسطین یا مشکل اسلام‌ستیزی و یهودستیزی را افزایش می‌دهد.

و با این حال، با انفجار هوش مصنوعی، مبارزه با اطلاعات نادرست از کنترل خارج می‌شود. ابزارهای دیپ‌فیک و مدل‌های ارزان هوش مصنوعی بدون هیچ کنترل قابل توجهی در حال تکثیر هستند.

طبق آمار DeepMedia، میزان ویدیوها و صداهای دیپ‌فیک هر ساله به شدت افزایش یافته است. ویدیوهای دیپ‌فیک در سال ۲۰۲۳ نسبت به سال ۲۰۲۲ بیش از ۳ برابر و صداهای دیپ‌فیک بیش از ۸ برابر افزایش یافته است. از این تعداد، پیش‌بینی می‌شود که حدود ۵۰۰۰۰۰ ویدیو و صدای دیپ‌فیک در سال ۲۰۲۴ در شبکه‌های اجتماعی در سطح جهان به اشتراک گذاشته شود.

در اوایل سال ۲۰۲۴، مجموعه‌ای از تصاویر مستهجن تولید شده توسط هوش مصنوعی از خواننده تیلور سویفت در رسانه‌های اجتماعی منتشر شد و در سراسر جهان غوغایی به پا کرد. علاوه بر این، مجموعه‌ای از سیاستمداران در سراسر جهان، از جمله جو بایدن، رئیس جمهور آمریکا و رهبران بریتانیا، هند، نیجریه، سودان، اتیوپی و اسلواکی نیز قربانی مشکل دیپ فیک شده‌اند.

بنابراین، مشکل اخبار جعلی، اطلاعات نادرست و به ویژه فعالیت‌های کلاهبرداری در فضای مجازی، روز به روز جدی‌تر می‌شود. در عصر هوش مصنوعی آینده، این «بیماری همه‌گیر جهانی» می‌تواند بدون تلاش‌های مشترک کل جهان، به ویژه سیاست‌گذاران در هر کشور، از کنترل خارج شود.

هوانگ های

منبع: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html