سم آلتمن کمیته ایمنی OpenAI را ترک می‌کند و قدرت را به یک گروه مستقل واگذار می‌کند.

طبق اطلاعیه‌ای که در وبلاگ رسمی OpenAI منتشر شد، کمیته ایمنی و امنیت به یک گروه نظارتی مستقل تحت نظر هیئت مدیره تبدیل خواهد شد. زیکو کولتر، استاد دانشگاه کارنگی ملون، ریاست این کمیته را در کنار اعضای دیگری مانند آدام دی‌آنجلو، مدیرعامل Quora، پل ناکاسون، ژنرال بازنشسته ارتش ایالات متحده و نیکول سلیگمن، معاون اجرایی سابق سونی، بر عهده خواهد داشت. همه این اعضا در حال حاضر عضو هیئت مدیره OpenAI هستند.

پس از استعفای آلتمن، کمیته بررسی ایمنی آخرین مدل هوش مصنوعی این شرکت، یعنی o1، را تکمیل کرد. این گروه همچنان از تیم ایمنی و امنیت OpenAI گزارش دریافت خواهد کرد و در صورت عدم رسیدگی به نگرانی‌های ایمنی، حق به تأخیر انداختن انتشار را برای خود محفوظ می‌دارد.

طبق گفته OpenAI، این کمیته نقش مهمی در ارائه نظارت فنی بر مدل‌های فعلی و آینده، همراه با نظارت پس از انتشار، خواهد داشت. این شرکت متعهد به ایجاد فرآیندهای ایمنی داخلی با معیارهای ارزیابی واضح است تا اطمینان حاصل شود که تمام مدل‌های هوش مصنوعی آن با خیال راحت منتشر می‌شوند.

تصمیم آلتمن برای ترک کمیته پس از آن صورت گرفت که گروهی متشکل از پنج سناتور آمریکایی نامه‌ای ارسال کردند و از OpenAI خواستند سیاست‌های ایمنی خود را روشن کند. تقریباً نیمی از کارکنان OpenAI که بر مطالعه خطرات بلندمدت هوش مصنوعی تمرکز داشتند، در سال‌های اخیر این شرکت را ترک کرده‌اند. محققان سابق OpenAI از آلتمن به دلیل عدم حمایت از مقررات قوی هوش مصنوعی و در عوض، حمایت از سیاست‌هایی که اهداف تجاری شرکت را پیش می‌برند، انتقاد کرده‌اند.

اعتبار تصویر: جاستین سالیوان / گتی ایماژ

علاوه بر این، OpenAI هزینه‌های خود را برای لابی‌گری در کنگره ایالات متحده به طور قابل توجهی افزایش داده است. این شرکت برای شش ماه اول سال ۲۰۲۴، ۸۰۰۰۰۰ دلار بودجه در نظر گرفته است، در حالی که برای کل سال ۲۰۲۳، ۲۶۰۰۰۰ دلار در نظر گرفته شده است. آلتمن همچنین به هیئت ایمنی و امنیت هوش مصنوعی وزارت امنیت داخلی ایالات متحده پیوست، جایی که در ارائه توصیه‌های مربوط به هوش مصنوعی در سراسر زیرساخت‌های حیاتی کشور مشارکت داشت.

اگرچه آلتمن کمیته امنیت و حریم خصوصی را ترک کرده است، اما به نظر می‌رسد نشانه کمی وجود دارد که این کمیته تصمیماتی اتخاذ کند که بتواند مسیر تجاری OpenAI را به طور جدی مختل کند. در ماه مه، OpenAI اعلام کرد که از طریق این کمیته به دنبال رسیدگی به «انتقادات معتبر» از کار خود خواهد بود، اگرچه «انتقادات معتبر» تا حد زیادی سلیقه‌ای هستند.

در سرمقاله‌ای در مجله اکونومیست در ماه مه، دو عضو سابق هیئت مدیره OpenAI، هلن تونر و تاشا مک‌کالی، نگرانی‌های خود را در مورد توانایی این شرکت در اداره خود ابراز کردند و استدلال کردند که OpenAI در حال حاضر قادر نیست خود را تحت فشار سود پاسخگو نگه دارد.

سود به طور فزاینده‌ای به یک محرک مهم برای OpenAI تبدیل می‌شود. این شرکت در حال جمع‌آوری ۶.۵ میلیارد دلار در دور جدیدی از تأمین مالی است که ارزش آن را به بیش از ۱۵۰ میلیارد دلار می‌رساند. برای جذب سرمایه‌گذاران، OpenAI ممکن است ساختار غیرانتفاعی ترکیبی خود را که برای محدود کردن بازده به سرمایه‌گذاران طراحی شده است، به منظور تضمین هدف توسعه هوش مصنوعی برای خیر عمومی بشریت، کنار بگذارد.

هونگ نگوین (طبق گفته TechCrunch)

منبع: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html