خطرات ویدیوهای جعلی ایجاد شده توسط هوش مصنوعی

حمله خاموش

در ۲۵ دسامبر ۲۰۲۵، پلیس NHA، متولد ۱۹۷۶، ساکن بخش تان شوان، هانوی، را پس از انتشار ویدئویی با عنوان «اینجا جانشین لاک لانگ کوان است» جریمه کرد. این ویدئو شخصی را نشان می‌داد که روی یک مار پیتون غول‌پیکر نشسته و در دریاچه هوان کیم شنا می‌کند. او اعتراف کرد که از هوش مصنوعی برای ساخت این ویدئو جهت «افزایش بازدید» استفاده کرده است.

خطرات ویدیوهای جعلی ایجاد شده توسط هوش مصنوعی - تصویر ۱.

مردی به دلیل استفاده از هوش مصنوعی برای ساخت ویدیویی از خودش در حال «سوار شدن بر مار پیتون» در دریاچه هوان کیم جریمه شد.

عکس: اسکرین‌شات

با گشت و گذار در پلتفرم‌های رسانه‌های اجتماعی مانند فیس‌بوک، تیک‌تاک و زالو، به راحتی می‌توان ویدیوهای تولید شده توسط هوش مصنوعی حاوی اطلاعات نادرست و محتوای غیرمنطقی، مشابه ویدیوی «مردی سوار بر پیتون» در هانوی ، را پیدا کرد. نمونه‌های دیگر شامل کودکانی است که چاقو به دست دارند تا گربه‌ها را تکه‌تکه کنند؛ افرادی که در کنار یک ببر مادر نشسته و توله‌هایش را در آغوش گرفته‌اند؛ کودکی که در محوطه حیوانات می‌افتد و حیوان نوزاد را به یکی از اقوام خارج از حصار برمی‌گرداند؛ و بزرگسالانی که در ماشین نشسته و گونه یک پلنگ را نوازش می‌کنند...

دکتر نگوین نگوک فین، مدیر مرکز فناوری اطلاعات و مدیر مرکز آموزش توسعه اجتماعی در دانشگاه تون دوک تانگ، اظهار داشت که تکثیر ویدیوهای جعلی تولید شده توسط هوش مصنوعی موضوعی نگران‌کننده است که نیاز به بررسی جدی دارد. اول، از نظر رشد شناختی، کودکان، به ویژه کودکان زیر ۱۲ سال، در حال تشخیص بین واقعیت و تخیل هستند. قرار گرفتن مداوم در معرض محتوای غیرمنطقی ارائه شده با تصاویر بسیار واقع‌گرایانه ایجاد شده توسط هوش مصنوعی می‌تواند مانع از توانایی آنها در ایجاد درک صحیح از دنیای واقعی، درک مرزهای ایمن در تعامل با حیوانات و محیط زیست و توسعه مهارت‌های تفکر انتقادی و توانایی ارزیابی قابلیت اطمینان اطلاعات شود.

دکتر فین گفت: «از دیدگاه رفتاری و ایمنی، ویدیوهایی مانند «کودکانی که گربه‌ها را با چاقو تکه‌تکه می‌کنند» یا «حیوانات وحشی که انسان‌ها را در آغوش می‌گیرند» نه تنها غیرمنطقی هستند، بلکه خطر واقعی نیز ایجاد می‌کنند. کودکان خردسال تمایل دارند آنچه را که روی صفحه نمایش می‌بینند تقلید کنند. عادی‌سازی این رفتارهای خطرناک می‌تواند منجر به حوادث غم‌انگیزی شود که کودکان سعی می‌کنند آنها را در زندگی واقعی تکرار کنند.»

دکتر نگوین نگوک فین می‌گوید: «علاوه بر این، از دیدگاه عاطفی و روانی، برخی محتواها، مانند «بریدن گربه‌ها»، حتی اگر فقط شبیه‌سازی شده باشند، هنوز هم می‌توانند احساسات کودکان را نسبت به خشونت آسیب‌زا یا بی‌حس کنند. در درازمدت، این می‌تواند بر رشد همدلی و آگاهی آنها از ارزش‌های زندگی تأثیر بگذارد. با این حال، می‌خواهم توجه داشته باشم که میزان تأثیر به شدت به سن، مدت زمان قرار گرفتن در معرض آن و به ویژه نظارت و راهنمایی بزرگسالان بستگی دارد.»

خطرات ویدیوهای جعلی ایجاد شده توسط هوش مصنوعی - تصویر ۲.

خطرات ویدیوهای جعلی ایجاد شده توسط هوش مصنوعی - تصویر ۳.

ویدیوهای بی‌شماری توسط هوش مصنوعی تولید شده‌اند که صحت ندارند و برای بینندگان، به ویژه کودکان، خطرناک هستند.

عکس: اسکرین‌شات

به گفته فام کونگ نات، مدرس دانشگاه فناوری شهر هوشی مین (HUTECH)، در حال حاضر ویدیوهایی با هوش مصنوعی تولید می‌شوند که آنقدر واقعی به نظر می‌رسند که حتی متخصصان هوش مصنوعی نیز تشخیص آنها را دشوار می‌دانند. نکته خطرناک این است که هرچه افراد بیشتر نوع خاصی از محتوا را تماشا کنند، محتوای مشابه بیشتری در رسانه‌های اجتماعی ظاهر می‌شود. آقای نات گفت: «به عبارت دیگر، این سایت‌های رسانه‌های اجتماعی آنچه را که می‌خواهند ما ببینیم به ما نشان می‌دهند، در حالی که ما فکر می‌کنیم آنچه را که واقعاً می‌خواهیم ببینیم، تماشا می‌کنیم.»

از ویدیوهای کوتاه در تیک تاک و فیسبوک گرفته تا «برین روت»

طبق اعلام انتشارات دانشگاه آکسفورد، «پوسیدگی مغز» به کلمه سال ۲۰۲۴ تبدیل شده است. به گفته استاد فام کونگ نات، این اصطلاح را می‌توان به این معنی درک کرد که وقتی کاربران مرتباً محتوای بسیار ساده‌ای را که نیاز به تفکر یا استدلال زیادی ندارد، مصرف می‌کنند، مغز آنها به مرور زمان «کوچک» می‌شود و توانایی آنها را برای درک عمیق یک مسئله کاهش می‌دهد.

به راحتی می‌توان دید که این روزها کودکان، دانش‌آموزان و دانشجویان دانشگاه‌ها به طور فزاینده‌ای بی‌صبر شده‌اند. پیش از این، آنها ممکن بود ۵ تا ۱۰ دقیقه از یوتیوب را تماشا کنند، اما اکنون کلیپ‌های کوتاه در تیک‌تاک فقط ۱۵ تا ۳۰ ثانیه طول دارند. این نوع محتوا تفکر انتقادی را تحریک نمی‌کند؛ آنها در درجه اول برای سرگرمی هستند. بنابراین، نه تنها به دلیل انتشار اطلاعات جعلی و غیرواقعی خطرناک هستند، بلکه استفاده بیش از حد و طولانی مدت از کلیپ‌های کوتاه تولید شده توسط هوش مصنوعی نیز می‌تواند به طور جدی بر تفکر و عملکرد مغز انسان تأثیر بگذارد.

دکتر نگوین نگوک فین اظهار داشت که از دیدگاه تحقیقات علمی، شواهد فراوانی وجود دارد که نشان می‌دهد مصرف بیش از حد محتوای ویدیویی کوتاه تأثیر قابل توجهی بر مغز و سلامت روان دارد. دکتر فین توضیح داد: «از دیدگاه عصب‌شناسی، ویدیوهای کوتاه برای فعال کردن سیستم پاداش مغز، که به عنوان «سیستم پاداش دوپامین» نیز شناخته می‌شود، طراحی شده‌اند. هر بار که به یک ویدیوی جدید منتقل می‌شوید، مغز دوپامین آزاد می‌کند و احساس لذت فوری ایجاد می‌کند. این مشابه مکانیسم رفتارهای اعتیادآور است. وقتی مغز به دریافت تحریک مداوم و سریع عادت می‌کند، ممکن است در تمرکز روی فعالیت‌هایی که نیاز به صبر پایدار دارند، مشکل داشته باشد.»

به گفته دکتر فین، مطالعات نشان می‌دهد که تغییر مداوم توجه بین بخش‌های کوتاه محتوا می‌تواند توانایی حفظ تمرکز پایدار، تفکر عمیق و مهارت‌های تجزیه و تحلیل پیچیده و همچنین توانایی خواندن و درک متون طولانی را مختل کند و به طور مستقیم بر توانایی دانش‌آموزان دبیرستانی و دانشجویان دانشگاه برای تمرکز بر مطالعه و انجام تحقیقات عمیق تأثیر بگذارد. علاوه بر این، پیامدهای منفی برای سلامت روان نیز دارد. تماشای بیش از حد ویدیوهای کوتاه همچنین با مشکلاتی مانند کاهش زمان خواب و کیفیت پایین خواب، افزایش اضطراب و افسردگی به دلیل مقایسه اجتماعی، کاهش تنظیم عاطفی و احساس پوچی پس از تماشای طولانی مدت مرتبط است.

ما باید مهارت‌های تفکر انتقادی را در خود پرورش دهیم.

راه حل این مشکل چیست؟ به گفته دکتر نگوین نگوک فین، هماهنگی چندجانبه از سوی همه ذینفعان مورد نیاز است. از دیدگاه والدین، نکته مهم نظارت هدفمند است، نه کنترل مطلق. به جای ممنوعیت کامل ویدیوها، والدین باید با فرزندانشان تماشا کنند و در مورد آنچه تماشا می‌کنند بحث کنند، توضیح دهند که چه چیزی واقعی است، چه چیزی توسط هوش مصنوعی تولید شده است، چه چیزی خطرناک است و محدودیت‌های زمانی معقولی برای تماشای ویدیوهای کوتاه تعیین کنند.

دانش‌آموزان دبیرستانی و دانشجویان دانشگاه باید با تعیین زمان‌های مشخصی از روز برای دوری از رسانه‌های اجتماعی، زمانی را که هر روز صرف تماشای ویدیوهای کوتاه از طریق برنامه‌ها می‌کنند، پیگیری کنند. علاوه بر این، آنها باید در مورد محتوا گزینشی عمل کنند و به جای سرگرمی‌های غیرفعال، حساب‌هایی با محتوای واقعاً آموزشی و خلاقانه را دنبال کنند. سرگرمی‌های زندگی واقعی را توسعه دهند...

دکتر فین گفت: «مدارس و معلمان باید با آموزش نحوه شناسایی محتوای تولید شده توسط هوش مصنوعی، ایجاد مهارت‌هایی در ارزیابی منابع اطلاعاتی و بحث در مورد اخلاق و مسئولیت‌پذیری هنگام ایجاد یا اشتراک‌گذاری محتوای دیجیتال، آموزش «سواد رسانه‌ای» را در اولویت قرار دهند. درس‌هایی در مورد هوش مصنوعی، جعل عمیق و ایمنی دیجیتال باید به عنوان یک بخش اجباری در برنامه درسی گنجانده شود، همراه با جلسات عملی در مورد استفاده مسئولانه از فناوری. مدارس باید با پرسیدن «آیا این واقعی است؟» هنگام تجزیه و تحلیل محتوا و آموزش نحوه تأیید اطلاعات، تفکر انتقادی را تشویق کنند.» به گفته استاد فام کونگ نات، وقتی جوانان فاقد مهارت‌های تفکر انتقادی هستند و مهارت‌های تفکر انتقادی ضعیفی دارند، به راحتی توسط اخبار جعلی فریب می‌خورند.

به گفته خانم تران تی هوای نگی، معلم مدرسه ابتدایی کیم دونگ، گو واپ ورد، شهر هوشی مین، والدین باید از نزدیک فرزندان خود را زیر نظر داشته باشند، سن استفاده از تلفن همراه و مدت زمان استفاده از آن را محدود کنند، فقط به وب‌سایت‌های مجاز دسترسی داشته باشند و همچنین در رفتارشان در رسانه‌های اجتماعی الگوی خوبی برای فرزندانشان باشند...

علاوه بر این، دکتر نگوین نگوک فین و استاد فام کونگ نات پیشنهاد کردند که پلتفرم‌های رسانه‌های اجتماعی باید الگوریتم‌های خود را بهبود بخشند تا در توصیه محتوای مناسب سن، مسئولیت‌پذیرتر باشند.

منبع: https://thanhnien.vn/hiem-hoa-nhung-video-gia-tu-ai-185260126211542279.htm