استفاده از ابزارهای هوش مصنوعی برای رفع نقص محصولات مبتنی بر هوش مصنوعی

اخبار جعلی با دستکاری هوش مصنوعی پیچیده‌تر می‌شوند

اخیراً، در نشستی که بین انجمن روزنامه‌نگاران ویتنام و انجمن روزنامه‌نگاران تایلند در هانوی برگزار شد، رهبران دو انجمن بیشتر وقت خود را صرف اشاره به مشکل «اخبار جعلی» کردند و اظهار داشتند که این دیگر یک مشکل ملی نیست، بلکه یک مشکل بزرگ است که تأثیرات غیرقابل پیش‌بینی در منطقه و جهان ایجاد می‌کند.

طبق تحقیقات گوگل دیپ‌مایند، ایجاد تصاویر، ویدیوها و صداهایی که هویت انسان‌ها را جعل می‌کنند، تقریباً دو برابر بیشتر از ایجاد اطلاعات نادرست با استفاده از ابزارهایی مانند چت‌بات‌های هوش مصنوعی رایج است.

در ماه‌های اخیر، ویدیوهای دیپ‌فیک از ریشی سوناک ، نخست‌وزیر بریتانیا، و دیگر رهبران جهان در تیک‌تاک، ایکس و اینستاگرام منتشر شده است و این نگرانی وجود دارد که با وجود تلاش‌های شبکه‌های اجتماعی برای برچسب‌گذاری یا حذف محتوا، مخاطبان ممکن است آن را به عنوان جعلی تشخیص ندهند و انتشار آن می‌تواند بر رأی‌دهندگان تأثیر بگذارد.

پیش از انتخابات عمومی، تصاویر جعلی از ریشی سوناک، نخست وزیر بریتانیا، در تیک تاک و اینستاگرام منتشر شده است. (عکس: AFP)

لونگ دونگ سون، استاد دانشگاه در موسسه روزنامه‌نگاری و ارتباطات، آکادمی روزنامه‌نگاری و تبلیغات، با ارزیابی تأثیر اخبار جعلی در عصر فناوری، گفت که محصول ترکیب هوش مصنوعی و اطلاعات نادرست، که به عنوان اخبار جعلی سورئال نیز شناخته می‌شود، می‌تواند درک عمومی از رویدادها و مسائل اجتماعی را تحریف کند و در نتیجه بر نحوه ارزیابی وضعیت و تصمیم‌گیری آنها تأثیر بگذارد. این امر می‌تواند عواقب جدی، از تصمیمات شخصی کوچک گرفته تا تصمیمات مهمی که بر جامعه و کشور تأثیر می‌گذارد، ایجاد کند.

اخبار جعلی می‌توانند به عنوان ابزاری برای دستکاری افکار عمومی، تحریک خشونت، ایجاد تفرقه و تضعیف ثبات اجتماعی مورد استفاده قرار گیرند. در عرصه سیاسی، اخبار جعلی می‌توانند اعتماد به نهادهای دموکراتیک را از بین ببرند، بر نتایج انتخابات تأثیر بگذارند و حتی باعث ایجاد درگیری شوند.

در مورد چالش‌های روزنامه‌نگاران و سازمان‌های مطبوعاتی، کارشناس ارشد لونگ دونگ سون گفت که پیچیدگی اخبار جعلی سورئال، به ویژه جعل عمیق، تشخیص بین واقعیت و جعل را حتی برای روزنامه‌نگاران باتجربه به طور فزاینده‌ای دشوار می‌کند.

آقای سان گفت: «در عصر انفجار اطلاعات، مردم به طور فزاینده‌ای از روزنامه‌نگاران و سازمان‌های خبری می‌خواهند که اطلاعات را سریع و دقیق ارائه دهند. با این حال، این فشار می‌تواند منجر به انتشار عجولانه اطلاعات توسط روزنامه‌نگاران بدون تأیید دقیق شود و فرصت‌هایی را برای انتشار اخبار جعلی سورئال ایجاد کند. علاوه بر این، روزنامه‌نگاران و سازمان‌های خبری اگر در تأیید و انتشار اطلاعات دقت نکنند، با خطرات قانونی و اخلاقی مواجه می‌شوند.»

از هوش مصنوعی برای تأیید اطلاعات استفاده کنید

به گفته‌ی کارشناس ارشد، لونگ دونگ سون، برای مقابله با این نوع اخبار جعلی، استفاده از راه‌حل‌های فناوری مدرن بسیار ضروری است.

دونگ سون، کارشناس ارشد، گفت: «این راهکارها نه تنها بر شناسایی و حذف اخبار جعلی تمرکز دارند، بلکه از همان مراحل اولیه تولید، مانع از انتشار آنها نیز می‌شوند.»

اول، به گفته آقای سان، یکی از مهمترین فناوری‌های امروز، استفاده از سیستم‌های هوش مصنوعی برای تشخیص اخبار جعلی است. سیستم‌های مدرن هوش مصنوعی قادر به تجزیه و تحلیل زمینه، مقایسه اطلاعات از منابع متعدد و تشخیص ناهنجاری‌ها در محتوای اطلاعات هستند. یک مثال بارز، استفاده از هوش مصنوعی برای تجزیه و تحلیل ویدیوها و تصاویر برای تشخیص نشانه‌های ویرایش یا تولید با استفاده از فناوری دیپ فیک است.

در مرحله بعد، پلتفرم‌های رسانه‌های اجتماعی و موتورهای جستجو نیز به طور فعال الگوریتم‌های یادگیری ماشینی را به کار می‌گیرند تا به طور خودکار محتوای اخبار جعلی را قبل از انتشار ویروسی، طبقه‌بندی و فیلتر کنند. این الگوریتم‌ها به گونه‌ای طراحی شده‌اند که ناهنجاری‌ها را در الگوهای اشتراک‌گذاری، سرعت انتشار یا حتی لحن پست‌ها تشخیص دهند و از این طریق احتمال جعلی بودن اطلاعات را ارزیابی کنند.

علاوه بر این، استفاده از فناوری بلاکچین برای مدیریت منشأ اطلاعات نیز یک راه حل بالقوه است. بلاکچین توانایی ایجاد یک سیستم احراز هویت شفاف و تغییرناپذیر را دارد و از این طریق به ردیابی منشأ و تاریخچه همه اطلاعات کمک می‌کند و دقت و قابلیت اطمینان را تضمین می‌کند.

هوش مصنوعی می‌تواند محتوای جعلی یا اطلاعات و تصاویر گمراه‌کننده‌ای ایجاد کند که تشخیص آنها دشوار است و به اعتبار افراد و سازمان‌ها آسیب زیادی وارد کند و حتی به منافع ملی و قومی آسیب برساند.

آقای فان ون تو - رئیس گروه روزنامه‌نگاری - دانشکده روزنامه‌نگاری و ارتباطات، دانشگاه علوم اجتماعی و انسانی، شهر هوشی مین - با نظر مشابه با کارشناسی ارشد لونگ دونگ سون، تأکید کرد که علاوه بر ارائه مهارت‌هایی برای بهره‌برداری از نقاط قوت هوش مصنوعی در روزنامه‌نگاری، ما همچنین باید از ابزارهای هوش مصنوعی برای تأیید اطلاعات استفاده کنیم.

تأیید منبع، که اساساً به معنای ارزیابی اعتبار یک منبع است، مهارت مهمی است که شامل تأیید منبع اطلاعات، مقایسه آن با سایر منابع و استفاده از ابزارهای بررسی واقعیت برای بررسی اعتبار آن می‌شود.

نکته جالب این است که در حال حاضر ابزارهای هوش مصنوعی زیادی وجود دارند که علاوه بر ابزارهای سنتی که از ابزارهای بررسی واقعیت پشتیبانی می‌کنند، از روزنامه‌نگاران در فرآیند تأیید پشتیبانی می‌کنند، مانند Google Image، Tineye reverse image search، Whopostedwhat.com، Waybackmachine، Webarchive.org، InVID، WeVerify، ExifTool، Metapicz...

آقای فان ون تو گفت که آموزش مهارت‌های حرفه‌ای روزنامه‌نگاران در دوره کنونی مستلزم توجه به فراهم کردن ظرفیت تأیید اطلاعات در برابر حمله اخبار جعلی دستکاری‌شده توسط هوش مصنوعی است. آقای تو گفت : «استفاده از ابزارهای هوش مصنوعی برای مدیریت خطاهای مرتبط با هوش مصنوعی سریع‌ترین راه برای کمک به روزنامه‌نگاران و آژانس‌های مطبوعاتی است که نه تنها نقش خود را به خوبی انجام می‌دهند، بلکه به بهبود کیفیت اطلاعات و محافظت از مردم در برابر اطلاعات نادرست و تأثیرات منفی رسانه‌ها نیز کمک می‌کنند.»

با این حال، آقای تو همچنین اشاره کرد که توانایی روزنامه‌نگاران در ارزیابی اطلاعات نمی‌تواند صرفاً به ابزارها متکی باشد. باید فوراً گفت که هوش مصنوعی می‌تواند از تجزیه و تحلیل محتوای اخبار پشتیبانی کند اما نمی‌تواند همه انواع اخبار جعلی و اطلاعات دستکاری شده را تشخیص دهد. نرم‌افزار هوش مصنوعی هنوز هم می‌تواند توسط تکنیک‌های هوش مصنوعی که برای تشخیص استفاده می‌کند، فریب بخورد.

فان ون تو گفت: «هیچ ابزاری عصای جادویی نیست، اما ابزارهای هوش مصنوعی که عکس‌ها/ویدیوهای جعلی را تشخیص می‌دهند، همچنان به عنوان بخشی از فرآیند تأیید یا روش بررسی دقیق، منبع ارزشمندی هستند.»

هوا گیانگ

منبع: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html