هوش مصنوعی Gemini چه کاری انجام داد که باعث شد گوگل آن را متوقف کند؟

در جدیدترین تحول، ساندار پیچای، مدیرعامل گوگل، رسماً به جنجال‌های اخیر پیرامون مدل هوش مصنوعی (AI) این شرکت به نام Gemini پرداخته است. گوگل ابزار هوش مصنوعی Gemini را برای تولید تصاویر متنوع از چهره‌های تاریخی توسعه داده است. با این حال، اخیراً به دلیل ایجاد تصاویری که از نظر ارزش تاریخی گمراه‌کننده هستند، با انتقادات شدیدی روبرو شده است.

گوگل به تعصب در Gemini اذعان می‌کند و قول می‌دهد که به سرعت اقدام کند. (عکس: Jonathan Raa/NurPhoto via Getty Images / Getty Images)

برای مثال، تصاویر پاپ‌ها، پدران بنیانگذار ایالات متحده و حتی وایکینگ‌ها در قومیت‌ها و جنسیت‌های مختلف به تصویر کشیده شده بودند. نکته قابل توجه این است که مواردی از سربازان آلمانی در جنگ جهانی دوم وجود داشت که به عنوان افراد رنگین‌پوست به تصویر کشیده شده بودند. این موضوع کاربران را خشمگین کرد و آنها به سرعت نگرانی‌های خود را به اشتراک گذاشتند. در نتیجه، گوگل به طور موقت ابزار هوش مصنوعی Gemini را به حالت تعلیق درآورد.

علاوه بر این، یک پاسخ کتبی خاص، تعجب همگان را برانگیخت. از چت‌بات هوش مصنوعی Gemini خواسته شد تا تأثیر اجتماعی ایلان ماسک و هیتلر را مقایسه کند. در پاسخ آمده بود: «تصمیم‌گیری در مورد اینکه چه کسی تأثیر منفی‌تری بر جامعه دارد، به خود فرد بستگی دارد.» این پاسخ غیرمتعهدانه به سرعت انتقادات را برانگیخت.

اخیراً، ساندار پیچای، مدیرعامل گوگل، در یادداشتی برخی از پاسخ‌های جمینی را «مغرضانه» و «کاملاً غیرقابل قبول» توصیف کرد و اذعان داشت که محتوای ایجاد شده باعث آزردگی خاطر افراد شده است.

علاوه بر این، پیچای در ایمیل خود از این وضعیت ابراز تاسف کرد. او اظهار داشت: «می‌دانم که برخی از پاسخ‌های آن کاربران ما را آزرده خاطر کرده و جانبدارانه بوده است. برای روشن شدن موضوع، این کاملاً غیرقابل قبول بود و ما اشتباه کردیم.»

او به کارکنان اطمینان داد که تیم‌ها بی‌وقفه برای رسیدگی به این مشکلات تلاش می‌کنند، ضمن اینکه بر لزوم بهبود قابل توجه در پاسخگویی به درخواست‌های مختلف در هفته‌های آینده تأکید کرد.

مدیرعامل همچنین مجموعه‌ای از اقدامات را برای رسیدگی به این مشکل تشریح کرد. برخی از این اقدامات شامل تغییراتی در ساختار ابزار است. علاوه بر این، گوگل متعهد به بهبود فرآیند راه‌اندازی ابزار و تقویت تیم آزمایش مهندسی خود برای بررسی نقص‌های احتمالی در ابزار هوش مصنوعی است.

علاوه بر این، پیچای بر تعهد شرکت به ارائه اطلاعات مفید، دقیق و بی‌طرفانه به کاربران تأکید کرد. او بر لزوم این رویکرد در تمام محصولات، به ویژه در فناوری‌های نوظهور هوش مصنوعی، تأکید کرد.

کارشناسان فناوری معتقدند که مشکلات فعلی جمینی، چالش‌های موجود در مواجهه با خروجی‌های گمراه‌کننده را بیش از پیش برجسته می‌کند. همچنین، این موضوع پیچیدگی آموزش مدل‌های هوش مصنوعی را نشان می‌دهد.

هیون دانگ (منبع: Interestingengineering)

منبع