هوش مصنوعی هنگام «زنده کردن» مردگان، ویدیوی توهین‌آمیزی می‌سازد

مولد ویدیوی Sora 2 شرکت OpenAI با ایجاد تصاویر افراد مشهور فوت شده در ویدیوهای آزاردهنده، جنجال برانگیز شده و خشم بسیاری از خانواده‌ها را برانگیخته است.

ابزار جدید ساخت ویدیو OpenAI خانواده‌های افراد مشهور را با بحران مواجه می‌کند، چرا که تصاویر عزیزان فوت‌شده توسط هوش مصنوعی در ویدیوهای توهین‌آمیز، تحریف‌شده و گاهی تحقیرآمیز «احیا» می‌شوند.

ویدیوهای تولید شده توسط هوش مصنوعی از افراد فوت شده، از مالکوم ایکس گرفته تا ویتنی هیوستون و کوبی برایانت، سر و صدای زیادی به پا کرده و سوالاتی را در مورد مرزهای اخلاقی و کنترل تصویر در عصر هوش مصنوعی مطرح کرده است.

محتوای توهین‌آمیز

ایلیاسا شباز، دختر مالکوم ایکس، فعال حقوق مدنی، می‌گوید که نمی‌خواهد هیچ کلیپ تولید شده توسط هوش مصنوعی از پدرش را ببیند. این ویدیوها با استفاده از Sora 2، ابزار متن به ویدئوی تازه منتشر شده OpenAI، ساخته شده‌اند تا صحنه‌هایی از مالکوم ایکس را در حال گفتن جوک‌های رکیک و بحث با کشیش مارتین لوتر کینگ خلق کنند.

شباز به واشنگتن پست گفت: «این بی‌احترامی و دلخراش است که می‌بینم از تصویر پدرم به این شکل بی‌معنی سوءاستفاده می‌شود . من نمی‌فهمم چرا افرادی که این فناوری را توسعه می‌دهند با همان وجدان و اهمیتی که برای خانواده خودشان قائلند، عمل نمی‌کنند.»

سورا ۲ بدون اجازه از تصاویر افراد فوت شده ویدیو می‌سازد. عکس: بلومبرگ .

Sora 2 به لطف توانایی‌اش در ساخت ویدیوهای فوق‌العاده واقع‌گرایانه، به سرعت به یک پدیده جهانی تبدیل شد. ظرف چند روز پس از عرضه، این برنامه به صدر جدول دانلودها رسید. با این حال، گسترش سریع آن همچنین به این معنی بود که مجموعه‌ای از ویدیوهای جعلی از افراد مشهور در رسانه‌های اجتماعی ظاهر شد.

تصاویر «احیای‌شده» مایکل جکسون، الویس پریسلی و ایمی واینهاوس با سرعت سرسام‌آوری پخش شدند و بسیاری از بینندگان را قادر به تشخیص واقعی از جعلی نکردند.

بعضی از ویدیوها قرار است خنده‌دار باشند، مثل ویدیویی که در آن فرد راجرز، مجری برنامه «محله آقای راجرز»، به همراه توپاک شکور رپ می‌خواند. اما بخش زیادی از محتوایی که تولید می‌شود، بیش از حد است.

از جمله آنها، ویدئویی که ویتنی هیوستون را در حالت مستی از طریق زاویه‌ای ساختگی از دوربین پلیس بازآفرینی می‌کرد، کوبی برایانت در حال پرواز با هلیکوپتر در تصادفی که منجر به کشته شدن او و دخترش شد، و جان اف کندی، رئیس جمهور سابق، که در مورد ترور یک سیاستمدار معاصر شوخی می‌کرد، همگی باعث خشم جامعه شد.

مقررات سست

سیاست OpenAI بیان می‌کند که این ابزار فقط می‌تواند افراد واقعی را با رضایت آنها شبیه‌سازی کند. با این حال، این شرکت در راه‌اندازی اخیر خود، «چهره‌های تاریخی» را از این قانون مستثنی کرد و به کاربران اجازه داد آزادانه از افراد متوفی ویدیو بسازند. این تصمیم بسیاری از خانواده‌های قربانیان را خشمگین کرده است.

زلدا ویلیامز، دختر رابین ویلیامز، بازیگر فقید، در اینستاگرام خود نوشت که دائماً ویدیوهایی از پدرش توسط هوش مصنوعی برایش ارسال می‌شود و از مردم التماس می‌کرد که «لطفاً دست از این کار بردارند».

زلدا گفت: «دیوانگی است که می‌بینیم میراث افراد واقعی به چیزهای عجیب و غریب وحشتناکی تبدیل شده که تیک‌تاک آنها را کنترل می‌کند.»

قوانین OpenAI در مورد استفاده از Sora 2 پر از نقاط ضعف است. عکس: بلومبرگ .

کارشناسان می‌گویند این پدیده نشان‌دهنده نقطه عطفی در فناوری هوش مصنوعی است، جایی که مرز بین خلاقیت و توهین محو می‌شود. هنری آجدر، محقق دیپ‌فیک، گفت که «رستاخیز مصنوعی» مردگان، سوالات بزرگی را در مورد کنترل تصویر و میراث شخصی مطرح می‌کند.

آژدر گفت: «اگر از تصاویر افراد مشهور برای تولید محتوا استفاده کنید، قطعاً بازدیدکننده جذب خواهید کرد. اما در مورد افراد فوت‌شده، این موضوع به یک سوال عمیق‌تر اشاره دارد: چه کسی مالک خاطرات و هویت آنهاست؟»

در پاسخ به این اعتراض، OpenAI اعلام کرد که به نمایندگان چهره‌های مشهور تازه درگذشته اجازه می‌دهد درخواست کنند که تصاویرشان از ویدیوهای Sora مسدود شود. سخنگوی OpenAI گفت: «ما معتقدیم که چهره‌های مشهور و خانواده‌هایشان باید بر نحوه استفاده از تصاویر دارای حق چاپ خود کنترل داشته باشند.»

چندین سازمان در صنعت سرگرمی ایالات متحده نیز نگرانی‌های خود را ابراز کرده‌اند. آژانس هنرمندان خلاق، شرکت مدیریت بسیاری از ستاره‌های هالیوود، اعلام کرد که Sora 2 مشتریان و مالکیت معنوی را در معرض خطر جدی قرار داده است. انجمن تصاویر متحرک آمریکا (MPAA) از OpenAI خواست تا برای محافظت از حقوق سازندگان، اقدامات «فوری و قاطع» انجام دهد.

فقط هنرمندان نیستند، چهره‌های تاریخی هم قربانی شده‌اند. یکی از ویدیوهایی که سورا ساخته، وینستون چرچیل را در حال تبلیغ جت‌بلو یا اشاره به جوک‌های زشت اینترنتی نشان می‌دهد.

منبع: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html