نیاز فوری به کنترل محتوای هوش مصنوعی.

تنها در چند سال گذشته، هوش مصنوعی (AI) با سرعت سرسام‌آوری توسعه یافته و به طور مداوم بهبود یافته است و به ابزاری قدرتمند برای پشتیبانی از بسیاری از زمینه‌ها تبدیل شده است. Veo3 - یک فناوری ساخت ویدیوی مبتنی بر هوش مصنوعی که اخیراً توسط Google DeepMind توسعه داده شده است - قادر به تولید فیلم‌هایی فوق‌العاده واقعی است. با این حال، در کنار مزایای کاربری آن، این ابزار همچنین چالشی را در مورد خطر سوءاستفاده توسط عوامل مخرب برای اهداف کلاهبرداری ایجاد می‌کند.

تشخیص اصل و تقلبی بودنش سخته.

به گفته کارشناسان فناوری، Veo3 به دلیل قابلیت‌های هوش مصنوعی خود در ساخت ویدیو، به یک پدیده جهانی تبدیل شده است و سطحی از واقع‌گرایی را ارائه می‌دهد که بسیار برتر از ابزارهای قبلی است. برخلاف Sora از OpenAI که در تصاویر عالی اما در صدا محدود است، Veo3 به طور یکپارچه تصاویر، صداهای محیط و دیالوگ‌ها را همگام‌سازی می‌کند. از صدای قدم‌ها و باد گرفته تا کلمات گفته شده و جلوه‌های اطراف، همه چیز به طور یکپارچه با هم ترکیب می‌شود و به سطحی از واقع‌گرایی واقعی دست می‌یابد که تشخیص ویدیوهای واقعی از ویدیوهای ساخته شده توسط هوش مصنوعی را برای کاربران دشوار می‌کند.

در ویتنام، Veo3 به سرعت در پلتفرم‌های رسانه‌های اجتماعی مانند TikTok، فیس‌بوک و YouTube Shorts به یک پدیده تبدیل شد. ویدیوهای متعددی با برچسب #veo3 با سرعت برق‌آسا به اشتراک گذاشته شدند و میلیون‌ها بازدید و صدها هزار تعامل را به خود جلب کردند. بسیاری از کلیپ‌های تولید شده توسط هوش مصنوعی، جامعه آنلاین را با واقع‌گرایی باورنکردنی خود شگفت‌زده کردند. به عنوان مثال، یک ویدیوی ۸ ثانیه‌ای با یک دیالوگ ساده، ۵ میلیون بازدید و بیش از ۳۰۸۰۰۰ لایک به دست آورد. ویدیوی دیگری که کاملاً توسط هوش مصنوعی ساخته شده بود و یک زن مسن را در حال سرخ کردن تخم‌مرغ نشان می‌داد، نیز بیش از ۲.۶ میلیون بازدید و بیش از ۱۰۴۰۰۰ لایک به دست آورد.

آقای تران وین خانگ، کارمند اداری در ناحیه ۱ شهر هوشی مین، گفت که به دلیل واقع‌گرایی بیش از حد، به سختی می‌تواند ویدیوهای واقعی را از جعلی تشخیص دهد. آقای خانگ گفت: «من ویدیویی از یک فروشنده ماهی دیدم که با یک مشتری در بازار صحبت می‌کرد و فکر کردم واقعی است زیرا تصویر بسیار واضح بود. نحوه دست تکان دادن او، بالا بردن ابروهایش، نور خورشید روی صورتش - همه چیز آنقدر طبیعی بود که نمی‌توانستم باور کنم که توسط هوش مصنوعی ساخته شده است.»

Cấp bách kiểm soát nội dung AI - Ảnh 1. — تصاویر موجود در ویدیوی ایجاد شده توسط Veo3 برای کاربران دشوار است که بین تصاویر واقعی و جعلی تمایز قائل شوند.

خانم نگوین مای آن (ساکن شهر هوشی مین) ضمن قدردانی از تحسین خود، نگرانی‌های خود را در مورد امنیت اطلاعات ابراز کرد. خانم آن اظهار داشت: «ویدیوهای ایجاد شده توسط Veo3 آنقدر واقع‌گرایانه هستند که من احساس ناراحتی می‌کنم. اگر افراد بدخواه از این فناوری برای ایجاد ویدیوهای افتراآمیز، تهمت یا جعل شواهد استفاده کنند، عواقب آن بسیار جدی خواهد بود.»

بسیاری از کاربران ویتنامی به طور خاص به نحوه دسترسی و استفاده از Veo3 علاقه‌مند هستند. با این حال، Veo3 فقط به طور رسمی توسط گوگل در بازار ایالات متحده، از طریق بسته اشتراک Google AI Ultra با هزینه ۲۴۹.۹۹ دلار در ماه، راه‌اندازی شده است. در مواجهه با این محدودیت، جامعه آنلاین ویتنامی به دنبال راه‌هایی برای دور زدن این محدودیت‌ها برای تجربه آن بوده است. بسیاری از افراد نکاتی را در مورد استفاده از VPN برای تغییر آدرس IP خود به ایالات متحده به اشتراک می‌گذارند و از این طریق یک حساب گوگل را در یک منطقه پشتیبانی شده ثبت می‌کنند تا Veo3 را به عنوان یک کاربر محلی فعال و از آن استفاده کنند. به گفته کارشناسان امنیتی، این نیز یک آسیب‌پذیری است که بازیگران مخرب می‌توانند برای اهداف شوم از آن سوءاستفاده کنند.

یک چارچوب قانونی برای هوش مصنوعی مورد نیاز است.

آقای لی هونگ دوک، بنیانگذار شرکت OneAds Digital، اظهار داشت که محصولات تولید شده توسط هوش مصنوعی مانند ویدیوها، تصاویر و صداها به سطح شگفت‌انگیزی از واقع‌گرایی نزدیک می‌شوند و حتی می‌توانند مستقیماً در تولید و تجاری‌سازی قرار گیرند. این رونق از نظر هزینه و زمان مزایای آشکاری به همراه دارد، اما می‌تواند برای انتشار اطلاعات نادرست یا ایجاد وحشت عمومی مورد سوءاستفاده قرار گیرد. در زمینه مدل‌های هوش مصنوعی که به طور فزاینده‌ای پیچیده می‌شوند، کنترل محتوا بسیار مهم می‌شود، به خصوص که فناوری از سرعت به‌روزرسانی‌های قانونی فعلی بسیار پیشی گرفته است.

بنابراین، آقای دوک پیشنهاد داد که نیاز فوری به تدوین یک قانون تخصصی برای هوش مصنوعی وجود دارد که به وضوح مسئولیت‌های کسانی را که محتوای هوش مصنوعی را ایجاد و به اشتراک می‌گذارند، تعریف کند. انتشار محتوای گمراه‌کننده، مضر یا سمی باید به شدت مجازات شود. در عین حال، مقامات باید معیارهایی را برای محدود کردن محتوایی که کاربران مجاز به ایجاد آن با استفاده از هوش مصنوعی هستند، وضع کنند و برچسب‌گذاری واضح را الزامی کنند. عدم رعایت این ضوابط منجر به مسئولیت قانونی و جبران خسارت خواهد شد. آقای دوک تأکید کرد: «صدور یک چارچوب قانونی جداگانه برای هوش مصنوعی برای کنترل این فناوری به سرعت در حال توسعه، کمک به حفظ یک محیط دیجیتال سالم و جلوگیری از پیامدهای منفی مانند کلاهبرداری، تخلفات اخلاقی یا رفتارهای توهین‌آمیز، بسیار ضروری است.»

علاوه بر نگرانی‌های قانونی، یک متخصص امنیت اطلاعات اظهار داشت که توسعه سریع Veo3 همچنین باعث نگرانی در میان تولیدکنندگان محتوا، به ویژه در زمینه‌هایی مانند فیلم، تلویزیون و انیمیشن شده است که در معرض خطر جایگزینی تدریجی با فناوری هوش مصنوعی هستند و چالش بزرگی را در حفاظت از حرفه‌ها و حق چاپ در صنعت خلاق ایجاد می‌کنند. این متخصص گفت: «مقررات مربوط به حقوق مالکیت معنوی برای محتوای تولید شده توسط هوش مصنوعی باید به زودی اضافه شود، زیرا هوش مصنوعی اکنون می‌تواند محصولات بسیار واقع‌گرایانه‌ای تولید کند. در غیر این صورت، تولیدکنندگان با خطر از دست دادن شغل خود در میان موج آثار مجازی که بازار را فرا گرفته است، مواجه خواهند شد.»

مراقب سرویس‌های جعلی باشید.

از زمان راه‌اندازی Veo3، بسیاری از حساب‌های کاربری در پلتفرم‌های رسانه‌های اجتماعی که ادعا می‌کنند «متخصص هوش مصنوعی» هستند، شروع به اشتراک‌گذاری ویدیوهای آزمایشی، آموزش‌های نحوه دسترسی به Veo3 یا فروش حساب‌ها و خدمات پشتیبانی با قیمت ۲۰۰۰۰۰ تا ۳۰۰۰۰۰ دانگ ویتنام کرده‌اند. برخی از کاربران گزارش داده‌اند که با موفقیت به آن دسترسی پیدا کرده و آن را امتحان کرده‌اند، اما همه نتوانسته‌اند آن را تجربه کنند. آقای لی هونگ دوک به کاربران هشدار داد که مراقب خدمات جعلی یا غیررسمی باشند و توصیه کرد که منتظر بمانند تا گوگل رسماً Veo3 را در بازار ویتنام راه‌اندازی کند تا از کلاهبرداری‌های مالی، سرقت داده‌ها یا دسترسی غیرمجاز به حساب‌های گوگل خود جلوگیری کنند.

منبع: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm