نیاز فوری به کنترل محتوای هوش مصنوعی

باید معیارهایی برای محدود کردن محتوایی که کاربران مجاز به ایجاد آن با هوش مصنوعی هستند، وضع شود و برچسب‌گذاری واضحی اعمال شود.

تنها در چند سال گذشته، هوش مصنوعی (AI) با سرعت سرسام‌آوری توسعه یافته و به طور مداوم بهبود یافته است و به ابزاری برای پشتیبانی عمیق در بسیاری از زمینه‌ها تبدیل شده است. Veo3 - یک فناوری ساخت ویدیو با استفاده از هوش مصنوعی که اخیراً توسط Google DeepMind توسعه داده شده است - قادر به ایجاد فیلم‌های واقعی است. این ابزار علاوه بر ابزارهای پشتیبانی از کاربران، چالش خطر سوءاستفاده توسط افراد شرور برای کلاهبرداری را نیز به همراه دارد.

تشخیص واقعی و تقلبی سخته

طبق گزارش دنیای فناوری، Veo3 به دلیل ویژگی ساخت ویدیوی هوش مصنوعی خود با سطحی از واقع‌گرایی که از هر ابزار قبلی پیشی می‌گیرد، در سطح جهانی «سروصدا» ایجاد کرده است. برخلاف Sora از OpenAI - که فقط از نظر تصویر برجسته است اما از نظر صدا محدود است، Veo3 تصاویر، صداهای محیطی و دیالوگ‌ها را به طور کامل همگام‌سازی می‌کند. از صدای قدم‌ها، وزش باد گرفته تا صدای انسان و جلوه‌های اطراف، همه به نرمی با هم ترکیب می‌شوند و به سطحی از واقعی بودن می‌رسند که تشخیص ویدیوهای واقعی از ویدیوهای ساخته شده توسط هوش مصنوعی را برای کاربران دشوار می‌کند.

در ویتنام، Veo3 به سرعت در شبکه‌های اجتماعی مانند TikTok، فیس‌بوک و YouTube Shorts تب و تاب ایجاد کرد. مجموعه‌ای از ویدیوها با هشتگ #veo3 با سرعتی سرسام‌آور به اشتراک گذاشته شدند و میلیون‌ها بازدید و صدها هزار تعامل را به خود جلب کردند. بسیاری از کلیپ‌های ساخته شده توسط هوش مصنوعی به دلیل سطح باورنکردنی اصالت خود، جامعه آنلاین را شگفت‌زده کردند. به عنوان مثال، یک ویدیوی ۸ ثانیه‌ای با یک دیالوگ ساده به ۵ میلیون بازدید و بیش از ۳۰۸۰۰۰ لایک رسید. ویدیوی دیگری که یک زن مسن را در حال سرخ کردن تخم‌مرغ نشان می‌دهد، که کاملاً توسط هوش مصنوعی ساخته شده است، نیز به بیش از ۲.۶ میلیون بازدید و بیش از ۱۰۴۰۰۰ لایک رسید.

آقای تران وین خانگ - کارمند اداری در منطقه ۱ شهر هوشی مین - گفت که به سختی می‌تواند بین واقعی و جعلی تمایز قائل شود زیرا سطح واقع‌گرایی بسیار بالا بود. آقای خانگ گفت: «من ویدیویی از یک فروشنده ماهی دیدم که با مشتریان در بازار صحبت می‌کرد و فکر کردم واقعی است زیرا تصویر بسیار واضح بود. نحوه تکان دادن دستش، بالا بردن ابروهایش، تابش نور خورشید بر صورتش، همه چیز آنقدر طبیعی بود که باورکردنی نبود که توسط هوش مصنوعی ساخته شده باشد.»

تصاویر موجود در فیلم ساخته شده توسط Veo3، کاربران را در تشخیص واقعی و جعلی بودن آنها دچار مشکل می‌کند.

خانم نگوین مای آن (ساکن شهر هوشی مین) اگرچه اذعان کرد که تحت تأثیر قرار گرفته است، اما نگرانی‌های خود را در مورد امنیت اطلاعات ابراز کرد. خانم آن اظهار داشت: «ویدئوی ایجاد شده توسط Veo3 آنقدر واقع‌گرایانه است که باعث می‌شود احساس ناامنی کنم. اگر افراد بد از این فناوری برای ایجاد ویدیوهایی برای تهمت، افترا یا جعل شواهد استفاده کنند، عواقب آن بسیار جدی خواهد بود.»

بسیاری از کاربران ویتنامی به طور خاص به نحوه دسترسی و استفاده از Veo3 علاقه‌مند هستند. با این حال، Veo3 فقط توسط گوگل به طور رسمی در بازار ایالات متحده، از طریق بسته اشتراک Google AI Ultra با هزینه ۲۴۹.۹۹ دلار در ماه، مستقر شده است. در مواجهه با این محدودیت، جامعه آنلاین ویتنامی راهی برای "غلبه بر مانع" برای تجربه آن پیدا کرده است. بسیاری از افراد نکاتی را در مورد استفاده از VPN برای تغییر IP به ایالات متحده به اشتراک می‌گذارند، از آنجا یک حساب گوگل در منطقه پشتیبانی شده ثبت می‌کنند تا Veo3 را مانند یک کاربر محلی فعال و استفاده کنند. به گفته کارشناسان امنیتی، این همچنین یک روزنه است که افراد بد می‌توانند از آن برای انجام کارهای مشکوک سوءاستفاده کنند.

چارچوب قانونی مورد نیاز برای هوش مصنوعی

آقای لی هونگ دوک، بنیانگذار شرکت OneAds Digital Company Limited، گفت که محصولات تولید شده توسط هوش مصنوعی مانند ویدیوها، تصاویر یا صداها به سطح شگفت‌انگیزی از واقع‌گرایی نزدیک می‌شوند و حتی می‌توانند مستقیماً در تولید و تجاری‌سازی قرار گیرند. این انفجار مزایای آشکاری از نظر هزینه و زمان به همراه دارد، اما می‌تواند برای انتشار اطلاعات نادرست یا ایجاد سردرگمی عمومی مورد سوءاستفاده قرار گیرد. در زمینه مدل‌های هوش مصنوعی که به طور فزاینده‌ای پیچیده می‌شوند، کنترل محتوا ضروری می‌شود، به خصوص زمانی که فناوری از سرعت به‌روزرسانی قوانین فعلی بسیار پیشی گرفته است.

بنابراین، آقای دوک پیشنهاد داد که تدوین یک قانون تخصصی برای هوش مصنوعی ضروری است، قانونی که به وضوح مسئولیت‌های کسانی را که محتوای هوش مصنوعی را ایجاد و به اشتراک می‌گذارند، تعریف کند. اقدامات مربوط به انتشار محتوای نادرست و سمی باید مجازات و به شدت با آن برخورد شود. در عین حال، مقامات باید معیارهایی را برای محدود کردن محتوایی که کاربران مجاز به ایجاد آن با هوش مصنوعی هستند، وضع کنند و برچسب‌های واضحی را الزامی کنند. در صورت عدم اجرای صحیح، کاربران باید مسئولیت قانونی را بر عهده بگیرند و هرگونه خسارتی را که ایجاد می‌شود، جبران کنند. آقای دوک تأکید کرد: «صدور یک چارچوب قانونی جداگانه برای هوش مصنوعی برای کنترل این فناوری به سرعت در حال توسعه، کمک به حفظ یک محیط دیجیتال سالم و جلوگیری از عواقبی مانند کلاهبرداری، تخلفات اخلاقی یا اعمال توهین به دیگران، بسیار ضروری است.»

علاوه بر نگرانی‌های قانونی، یک متخصص امنیت اطلاعات اظهار داشت که توسعه چشمگیر Veo3 همچنین نگرانی‌هایی را در بین تولیدکنندگان محتوا، به ویژه در زمینه‌هایی مانند فیلم، تلویزیون و انیمیشن، که در معرض خطر جایگزینی تدریجی با فناوری هوش مصنوعی هستند، ایجاد می‌کند و چالش بزرگی را برای حفاظت از مشاغل و حق چاپ در صنعت خلاق ایجاد می‌کند. این متخصص گفت: «لازم است که به زودی مقرراتی در مورد حقوق مالکیت معنوی برای محتوای تولید شده توسط هوش مصنوعی اضافه شود، زیرا هوش مصنوعی اکنون قادر به تولید محصولات بسیار واقع‌گرایانه است. در غیر این صورت، تولیدکنندگان به دلیل موج آثار مجازی که بازار را فرا گرفته است، با خطر از دست دادن شغل خود مواجه خواهند شد.»

مراقب سرویس‌های جعلی باشید

از زمان شیوع گسترده Veo3، در پلتفرم‌های رسانه‌های اجتماعی، بسیاری از حساب‌های کاربری که خود را «متخصص هوش مصنوعی» می‌نامند، شروع به اشتراک‌گذاری ویدیوهای آزمایشی، دستورالعمل‌های دسترسی به Veo3 یا فروش حساب‌ها و خدمات پشتیبانی با قیمت‌هایی از ۲۰۰۰۰۰ تا ۳۰۰۰۰۰ دونگ ویتنامی کرده‌اند. برخی از کاربران گفته‌اند که با موفقیت به آن دسترسی پیدا کرده و آن را امتحان کرده‌اند، اما همه نتوانسته‌اند آن را تجربه کنند. آقای لی هونگ دوک به کاربران هشدار داد که مراقب سرویس‌های جعلی یا غیررسمی باشند و توصیه کرد که منتظر بمانند تا گوگل رسماً Veo3 را در بازار ویتنام مستقر کند تا از کلاهبرداری مالی، سرقت داده‌ها یا تصاحب حساب‌های گوگل جلوگیری شود.

منبع: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm