عکس‌ها و ویدیوهای هوش مصنوعی فیسبوک را فرا گرفته‌اند: ظاهراً بی‌ضرر اما بسیار خطرناک

خانم لین، ۴۲ ساله، در حالی که عکس یک زوج سرباز را که چهارقلوهایشان را در آغوش داشتند در فیس‌بوک ورق می‌زد، طبق عادت کامنت گذاشت: «تبریک به شما دو نفر». با این حال، او بلافاصله حرفش را پس گرفت زیرا احساس کرد «چیزی اشتباه است».

با نگاهی دوباره، او متوجه شد که این فقط یک عکس هوش مصنوعی است که توسط یک صفحه فیسبوک برای نشان دادن یک پست احساسی استفاده شده است. لازم به ذکر است که این دومین باری بود که او "تقریباً" فریب هوش مصنوعی را خورد. قبل از آن، او همچنین ویدیوی "ملاقات افراد بازنشسته با "مسافران تابستانی"" را با افراد واقعی و رویدادهای واقعی اشتباه گرفته بود.

خانم لین که در حوزه رسانه کار می‌کند و مرتباً در معرض محتوای هوش مصنوعی قرار دارد، مجبور شد اعتراف کند که این فناوری آنقدر سریع و پیچیده توسعه یافته که تشخیص بین واقعی و جعلی دشوار است.

عکس پربازدید فیسبوک توسط هوش مصنوعی ساخته شده است. اسکرین شات.

متخصصان نیز با این نظر موافقند. ابزارهایی مانند Google Veo 3، Kling AI، DALL·E 3، Midjourney... به توانایی ایجاد تصاویر و ویدیوهای فوق العاده واقع گرایانه رسیده اند.

آقای دو نهو لام، مدیر آموزش، موسسه فناوری بلاکچین و هوش مصنوعی ABAII، خاطرنشان کرد که به لطف فناوری چندوجهی و مدل‌های زبانی پیشرفته، این ابزارها می‌توانند تصاویر، صداها، حالات چهره و حرکات طبیعی را همگام‌سازی کرده و محصولات بسیار متقاعدکننده‌ای ایجاد کنند.

آقای دو نهو لام، مدیر آموزش، موسسه فناوری بلاکچین و هوش مصنوعی ABAII، گفت که فناوری پیشرفته هوش مصنوعی محصولات بسیار متقاعدکننده‌ای را به ارمغان می‌آورد. عکس: NVCC

آقای لام اظهار داشت که پیشرفت‌های هوش مصنوعی پتانسیل زیادی را در زمینه‌هایی مانند تولید محتوا، تبلیغات، سرگرمی و آموزش ایجاد می‌کند. با این حال، این توانایی «واقعی» برای بازآفرینی، چالش‌های زیادی را در اخلاق، کنترل و امنیت اطلاعات نیز ایجاد می‌کند، زیرا مرز بین واقعیت و مجازیت به طور فزاینده‌ای مبهم است.

پست فیسبوکی که خانم لین دید، نزدیک به ۳۰۰۰۰۰ تعامل و بیش از ۱۶۰۰۰ نظر را به خود جلب کرد. بسیاری از کاربران بدون اینکه بدانند این فقط یک تصویرسازی هوش مصنوعی است، برای تبریک یا ابراز احساسات خود هجوم آوردند. برخی دیگر از افراد «هوشیار» از «کاربران اینترنتی به دلیل ساده‌لوحی بیش از حد» و اجازه ندادن به هوش مصنوعی برای فریب آنها انتقاد کردند.

در گروه‌ها و انجمن‌های فیسبوک، دیدن ویدیوهای هوش مصنوعی که توسط کاربران ساخته و به اشتراک گذاشته شده‌اند، کار سختی نیست. به طور خاص، ظاهر Google Veo 3 کیفیت ویدیوها، به خصوص صدایی که با شکل دهان شخصیت مطابقت دارد را به طور قابل توجهی افزایش داده است. اگر توجه نکنید و با دقت تماشا نکنید، بینندگان به راحتی می‌توانند گیج شوند.

حفظ سلامت عقل در عصر هوش مصنوعی

تشخیص عکس‌ها و ویدیوهای ساخته شده توسط هوش مصنوعی دشوار است و خطرات زیادی را برای کاربران، به ویژه گروه‌های آسیب‌پذیر که در فناوری مهارت ندارند، ایجاد می‌کند. به گفته آقای وو تان تانگ - مدیر هوش مصنوعی (CAIO) شرکت سهامی امنیت سایبری SCS، هوش مصنوعی توسط مجرمان سایبری در کلاهبرداری (دور زدن سیستم‌های بیومتریک، eKYC...)، جعل هویت افراد مشهور برای انتشار اطلاعات نادرست و ایجاد سردرگمی عمومی مورد استفاده قرار می‌گیرد. موارد زیادی از مجرمان فناوری پیشرفته وجود دارد که از هوش مصنوعی برای ایجاد عکس‌های دیپ فیک، جعل هویت بستگان برای برقراری تماس‌های ویدیویی و کلاهبرداری مالی استفاده می‌کنند.

آقای وو تان ثانگ - مدیر هوش مصنوعی (CAIO) شرکت سهامی امنیت سایبری SCS - گفت که ما وارد دورانی شده‌ایم که همه چیز را می‌توان جعل کرد. عکس: NVCC

به گفته آقای ثانگ، کسب‌وکارها نیز اهداف بالقوه‌ای برای مجرمان هوش مصنوعی هستند. آن‌ها می‌توانند از هوش مصنوعی دیپ‌فیک برای جعل هویت کارمندان، دور زدن سیستم‌های امنیتی برای باز کردن قفل حضور و غیاب و جعل هویت رهبران کسب‌وکار برای بدنام کردن و از بین بردن اعتبار استفاده کنند.

آقای دو نهو لام از ABAII با همین نظر، به سه پیامد هوش مصنوعی برای کاربران اشاره کرد: کلاهبرداری مالی، تخریب اعتبار و سوءاستفاده از اطلاعات خصوصی. در حوزه کسب و کارها، شرکت آروپ پس از اینکه کارمندان شعبه هنگ کنگ آن فریب خوردند تا در یک جلسه ویدیویی دیپ فیک شرکت کنند و طبق درخواست پول را منتقل کنند، 25 میلیون دلار آمریکا ضرر کرد.

هر آنچه که باید در مورد Veo 3، ابزار هوش مصنوعی تولید ویدیوی ویروسی فعلی بدانید جدیدترین مدل هوش مصنوعی تولید ویدیوی گوگل - Veo 3 - با توانایی خود در ایجاد صدای هماهنگ و واقع‌گرایانه با تصاویر، شما را تحت تأثیر قرار می‌دهد.

یکی دیگر از خطرات به همان اندازه جدی این است که وقتی مردم نتوانند بین واقعیت و دروغ تمایز قائل شوند، اعتماد عمومی به رسانه‌ها و منابع خبری رسمی از بین خواهد رفت.

آقای لام به گزارش ۲۰۲۴ موسسه رویترز اشاره کرد که نشان می‌دهد درصد کاربران جهانی که به اخبار پلتفرم‌های رسانه‌ای اعتماد دارند، به پایین‌ترین سطح خود در یک دهه گذشته رسیده است، که عمدتاً به دلیل ظهور محتوای دیپ‌فیک است.

به گفته‌ی متخصص وو تان تانگ، «ما در عصری هستیم که همه اطلاعات می‌توانند جعلی باشند و دیگر «خطری» محسوب نمی‌شوند.» بنابراین، لازم است آگاهی‌رسانی افزایش یابد و اقدامات حفاظت شخصی اعمال شود و برای زندگی در صلح ، در مورد هوش مصنوعی اطلاعات کسب شود.

این دو متخصص توصیه می‌کنند که کاربران همیشه قبل از تصمیم‌گیری، اطلاعات را تأیید و تصدیق کنند؛ خود را به دانش لازم برای شناسایی محتوای جعلی مجهز کنند؛ اشتراک‌گذاری اطلاعات شخصی را به صورت آنلاین محدود کنند؛ و اقدامات مربوط به انتشار محتوای جعلی را گزارش دهند. آقای لام گفت: «کاربران تنها با پیشگیرانه و آگاه بودن می‌توانند واقعاً از خود محافظت کنند و در ایجاد فضای مجازی امن‌تر در عصر دیجیتال مشارکت داشته باشند.»

یوشع بنجیو، «پدرخوانده»، که نگران انقراض بشر به دلیل هوش مصنوعی بود، کاری انجام داد . یوشع بنجیو، «پدرخوانده»، هوش مصنوعی، به تازگی یک سازمان غیرانتفاعی با هدف ایجاد سیستم‌های هوش مصنوعی ایمن، به جای نشان دادن شخصیت‌های خطرناک به انسان‌ها، تأسیس کرده است.

منبع: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html