داستان صوتی توهین‌آمیز ساخته شده با هوش مصنوعی: محتوای هرزنامه میلیون‌ها بازدید را به خود جذب می‌کند

(دن تری) - هر چه ساخت ویدیو با محتوا و تصاویر با استفاده از هوش مصنوعی ساده‌تر باشد، «زباله اینترنتی» بیشتری ایجاد می‌شود.

داستان‌های صوتی، که نوعی راحت از «خواندن» کتاب هستند، به بستری حاصلخیز برای کانال‌های یوتیوب تبدیل شده‌اند که از فناوری هوش مصنوعی برای تولید محتوای خشونت‌آمیز و جنجالی برای جذب بازدیدکننده بهره می‌برند و عواقب نگران‌کننده‌ای را به همراه دارند.

داستان‌های صوتی مفهوم جدیدی در یوتیوب نیستند و تعداد زیادی از کاربران پرمشغله را که می‌خواهند بدون صرف وقت برای خواندن به محتوا دسترسی داشته باشند، جذب می‌کنند.

با پشتیبانی از صداهای واقعی انسان یا هوش مصنوعی، آثار ادبی، عاشقانه، داستان‌های پلیسی، داستان‌های ترسناک و... به ویدیوهایی با مدت زمان‌های مختلف تبدیل می‌شوند.

با این حال، توسعه سریع فناوری هوش مصنوعی توسط بسیاری از کانال‌های یوتیوب مورد سوءاستفاده قرار گرفته است. آن‌ها مجموعه‌ای از ویدیوهای روایی با محتوای مهیج و خشونت‌آمیز ایجاد می‌کنند و با توسل به کنجکاوی بینندگان، تعامل و بازدید را جذب می‌کنند.

داستان صوتی چندش‌آور و ترسناک میلیون‌ها بازدیدکننده را به خود جذب کرد

به لطف انبوهی از نرم‌افزارها و وب‌سایت‌های هوش مصنوعی، ایجاد محتوا و تصاویر هرگز آسان‌تر از این نبوده است. تنها با چند دستور ساده، کاربران می‌توانند محتوا و تصاویر مورد نیاز خود را ایجاد کنند.

با بهره‌گیری از این موضوع، بسیاری از کانال‌های یوتیوب داستان‌های صوتی منتشر کرده‌اند که محتوا، تصاویر و صداهای آنها همگی محصول هوش مصنوعی است.

کانال پین‌شده در قسمت نظرات، ماهیت تخیلی محتوای خشونت‌آمیز را تأیید می‌کند، اما مشخص نیست که چرا عنوان «انتقال پیام مثبت» را اضافه کرده است (تصویر صفحه).

جستجوی عبارت «داستان صوتی زن ثروتمند» مجموعه‌ای از ویدیوها با محتوا و تصاویر مشابه را نشان می‌دهد که همگی توسط هوش مصنوعی تولید شده‌اند.

با وجود مدت زمان متفاوت، وجه مشترک همه این ویدیوها، طرح‌های خشونت‌آمیز و هیجان‌انگیزی است که توسط هوش مصنوعی ساخته و خوانده می‌شوند.

این ویدیوها با محتوای جذاب و صدای کارآگاهی، به سرعت هزاران و حتی میلیون‌ها بازدید و تعامل را به خود جذب می‌کنند.

هر روز، این کانال‌ها ۲-۳ ویدیو منتشر می‌کنند و تعداد زیادی بیننده و مشترک جذب می‌کنند.

محتوای مجازی، تاثیر واقعی

شایان ذکر است که بسیاری از داستان‌های بی‌معنی، حتی با وجود اینکه خود کانال‌ها اذعان دارند که «غیرواقعی» هستند و «تمام جزئیات تخیلی هستند»، همچنان بینندگان را جذب می‌کنند.

در واقع، بسیاری از مردم، به ویژه سالمندان یا کسانی که دانش کمی از فناوری دارند، معتقدند که این داستان‌ها واقعیت دارند.

کاربران نگرانی خود را در مورد یک ویدیوی داستان صوتی تولید شده توسط هوش مصنوعی در Threads که باعث سوءتفاهم با والدین و سالمندان شده بود، ابراز کردند (عکس: اسکرین شات).

محتوا، به ویژه تصاویر تولید شده توسط هوش مصنوعی، به طور فزاینده‌ای واقع‌گرایانه‌تر می‌شوند و تشخیص بین واقعی و جعلی را دشوار می‌کنند. بسیاری از کانال‌های یوتیوب با بهره‌گیری از روندها و اخبار داغ، ویدیوهایی را نیز با دنبال کردن رویدادها برای جذب بازدید ایجاد می‌کنند.

اگرچه هوش مصنوعی مزایای زیادی به همراه دارد، اما تکثیر ویدیوهای مجازی با محتوای خشونت‌آمیز و توهین‌آمیز، عواقب جدی به همراه دارد.

این ویدیوهای داستان صوتی هنوز هزاران بازدید را به خود جذب می‌کنند و هرچه محتوا تکان‌دهنده‌تر و خشن‌تر باشد، تعامل بیشتر می‌شود.

اگرچه بسیاری از کانال‌ها ادعا می‌کنند که محتوای آنها تخیلی است و «از خود سلب مسئولیت می‌کنند»، اما این بدان معنا نیست که این محتوا بر برداشت بینندگان و حتی رفتار آنها تأثیر نمی‌گذارد. سلب مسئولیت‌ها صرفاً راهی برای کانال‌ها هستند تا خود را از زباله‌هایی که ایجاد می‌کنند «پاکسازی» کنند.

سوال این است که اگر بینندگان نتوانند بین اخبار جعلی و اخبار واقعی تمایز قائل شوند، چه اتفاقی خواهد افتاد، یا وقتی کودکان به طور تصادفی محتوایی با عناصر خشونت‌آمیز زیاد تماشا می‌کنند، چه تأثیری خواهند پذیرفت؟

دکتر نگوین ون سون، مدرس دانشکده فناوری اطلاعات، دانشگاه فناوری (دانشگاه ملی ویتنام، هانوی )، تأکید کرد: «هوش مصنوعی می‌تواند کمک‌های عملی زیادی به جامعه و اجتماع ارائه دهد، اما وقتی مورد سوءاستفاده قرار گیرد و برای اهداف نادرست استفاده شود، می‌تواند عواقب جدی زیادی به همراه داشته باشد.»

به گفته دکتر نگوین ون سون، کاربران باید هنگام نزدیک شدن و به کارگیری هوش مصنوعی، آگاهی و مسئولیت خود را افزایش دهند (عکس: شخصیت ارائه شده).

دکتر سان از کاربران، به ویژه جوانان، خواست تا هنگام مواجهه و به کارگیری هوش مصنوعی، آگاهی و مسئولیت‌پذیری خود را افزایش دهند و به جای انتشار محصولات بی‌ارزش و توهین‌آمیز که در فضای مجازی رواج دارند، به دنبال تولید محصولات باکیفیت و متمدن باشند.

عادت گوش دادن به داستان‌های صوتی بد نیست، اما کمک ناخواسته به افراد برای سوءاستفاده از این عادت و پیشرفت‌های تکنولوژیکی برای ایجاد محصولات خشونت‌آمیز و توهین‌آمیز، محیط آنلاین را آلوده می‌کند.

کاربران باید اطلاعات را تأیید کنند و خود را به یک «فیلتر» برای تشخیص حقیقت از دروغ مجهز کنند تا با اطلاعات نادرستی که باعث سردرگمی عمومی می‌شود، گمراه نشوند.

منبع: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm