متا به خاطر نقص هوش مصنوعی در ترسیم «سگ سیاه» عذرخواهی کرد

در اواسط ماه دسامبر، متا شروع به ادغام یک چت‌بات هوش مصنوعی به نام متا ای‌آی در برنامه مسنجر در ویتنام کرد و آن را به صورت رایگان برای همه کاربران منتشر کرد. این ابزار از مدل زبان لاما ۳.۲ استفاده می‌کند، از زبان ویتنامی پشتیبانی می‌کند، امکان جستجوی اطلاعات، ایجاد تصاویر و چت را فراهم می‌کند.

مدت کوتاهی پس از آن، بسیاری از کاربران در ویتنام متوجه شدند که Meta AI در ایجاد تصویر خود خطای جدی دارد. به طور خاص، هنگام وارد کردن کلمه کلیدی "سگ سیاه"، این چت‌بات نتیجه‌ای از یک مرد یا پسر تیره‌پوست با موهای فرفری را برمی‌گرداند. اگر کلمه کلیدی را به زبان ویتنامی به عنوان "تصویر سگ سیاه" وارد می‌کردید، Meta AI نیز نتایج مشابهی را برمی‌گرداند.

هوش مصنوعی متا، افراد رنگین‌پوست را در حالی که دستور، محتوای متفاوتی را درخواست می‌کند، ترسیم می‌کند که یک مشکل جدی است.

در ۳۱ دسامبر، نماینده متا در ویتنام رسماً در مورد این حادثه صحبت کرد. این شرکت مشکل فوق را تأیید و اعلام کرد که آن را برطرف کرده است. در کنار آن، متا ویتنام از این حادثه عذرخواهی کرد و گفت که این مشکل ممکن است برای سایر سیستم‌های هوش مصنوعی مولد موجود نیز رخ دهد.

نماینده شرکت گفت: «ما بابت این خطا عذرخواهی می‌کنیم. متا در حال ایجاد تمهیدات حفاظتی در ویژگی‌ها و مدل‌های هوش مصنوعی خود است تا تجربه‌ای امن‌تر و لذت‌بخش‌تر را برای همه فراهم کند. با این حال، مانند سایر سیستم‌های هوش مصنوعی مولد، این مدل ممکن است محتوای نادرست یا توهین‌آمیز را برگرداند، بنابراین ما کاربران را تشویق می‌کنیم که از این ابزارها مسئولانه استفاده کنند.»

پس از یک دوره تجربه، Meta AI به دلیل توانایی‌اش در استفاده از زبان برای پاسخگویی کاملاً روان، مورد توجه بسیاری از افراد قرار گرفته است. ویژگی ایجاد تصویر نیز در مقایسه با مدلی که به صورت رایگان در اختیار کاربران قرار گرفته، کیفیت خوبی ارائه می‌دهد. بخشی از دلیل آن ممکن است به این دلیل باشد که Meta از محتوای منتشر شده در فیس‌بوک به عنوان داده ورودی در فرآیند آموزش هوش مصنوعی استفاده می‌کند و به این ابزار کمک می‌کند تا بتواند دستورات طبیعی را بیان و اجرا کند.

با این حال، اجتناب از حوادثی مانند نژادپرستی یا واکنش‌هایی که با استانداردهای تعیین‌شده برای هوش مصنوعی مطابقت ندارند، هنوز دشوار است. متا می‌گوید که هوش مصنوعی خود را با متخصصان حوزه هوش مصنوعی از طریق آزمایش‌های «تیم قرمز» آزمایش می‌کند تا کاربردهای ناخواسته را شناسایی کند و سپس از طریق یک فرآیند بهبود مستمر، آنها را برطرف می‌کند.

منبع: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm