یافتن استانداردهای ایمنی برای هوش مصنوعی

SGGP ۳۱ ژوئیه ۲۰۲۳، ساعت ۰۹:۳۵

پس از آنکه اروپا شروع به تهیه پیش‌نویس و به زودی اجرای اولین قانون جهان در مورد هوش مصنوعی (AI) کرد، چهار غول پیشرو در زمینه داده‌کاوی اینترنتی در ایالات متحده، گروهی به نام Frontier Model Forum راه‌اندازی کرده‌اند.

هدف اصلی انجمن مدل Frontier، ترویج مسئولانه هوش مصنوعی است. عکس: THINKWITHNICHE

احزاب به هم نزدیک‌تر می‌شوند

این گروه که شامل شرکت‌های Anthropic، Google، Microsoft و OpenAI، مالک ChatGPT، می‌شود، اعلام کرد که اهداف اصلی انجمن مدل Frontier، کمک به کاهش خطرات ناشی از پلتفرم‌های هوش مصنوعی و توسعه استانداردهای صنعتی است. انجمن مدل Frontier، انجمن جدیدی را با اهداف اصلی زیر ایجاد خواهد کرد: ترویج تحقیقات ایمنی هوش مصنوعی برای پشتیبانی از توسعه، کاهش خطرات و استانداردسازی ارزیابی‌ها و سطوح ایمنی؛ شناسایی بهترین شیوه‌ها برای توسعه و استقرار مدل؛ کمک به عموم مردم برای درک ماهیت، قابلیت‌ها، محدودیت‌ها و تأثیرات این فناوری؛ و همکاری با سیاست‌گذاران، دانشگاهیان، جامعه مدنی و شرکت‌ها برای به اشتراک گذاشتن دانش در مورد خطرات و ایمنی.

غول‌های فناوری به‌طور سنتی در برابر افزایش مقررات مقاومت کرده‌اند، اما این بار، صنعت فناوری به‌طورکلی موضع خود را در مورد نگرانی‌های فزاینده در مورد خطرات هوش مصنوعی تغییر داده است. شرکت‌های درگیر در طرح Frontier Model Forum متعهد شده‌اند که بهترین شیوه‌ها را در بین شرکت‌ها به اشتراک بگذارند و اطلاعات را به‌طور عمومی در دسترس دولت‌ها و جامعه مدنی قرار دهند.

به طور خاص، انجمن مدل Frontier بر پلتفرم‌های یادگیری ماشینی در مقیاس بزرگ، اما هنوز نوپا، تمرکز خواهد کرد که هوش مصنوعی را به سطوح جدیدی از پیچیدگی می‌برند - که این نیز یک عامل خطر بالقوه است. علاوه بر این، انجمن مدل Frontier از توسعه برنامه‌هایی که به چالش‌های عمده اجتماعی مانند: کاهش و سازگاری با تغییرات اقلیمی، تشخیص و پیشگیری زودهنگام سرطان و مقابله با تهدیدات سایبری می‌پردازند، نیز پشتیبانی خواهد کرد.

فضایی برای تخریب بالقوه

اعلام انجمن مدل Frontier توسط شرکت‌های آمریکایی چند روز پس از آن صورت می‌گیرد که سناتورهای آمریکایی در ۲۵ ژوئیه در جلسه استماع در کمیته فرعی کمیته قضایی سنای ایالات متحده، در مورد خطر استفاده از هوش مصنوعی برای حملات بیولوژیکی هشدار دادند. اخیراً، هفت شرکت بزرگ فناوری، از جمله OpenAI، Alphabet و Meta، داوطلبانه به کاخ سفید متعهد شده‌اند که سیستمی را برای شناسایی تمام محتوای ایجاد شده توسط هوش مصنوعی از متن، تصاویر، صدا گرفته تا ویدیو، توسعه دهند تا شفافیت را برای کاربران تضمین کنند و از ایمن‌تر بودن این فناوری اطمینان حاصل شود.

داریو آمودی، مدیرعامل شرکت هوش مصنوعی آنتروپیک، خاطرنشان کرد که اگرچه هوش مصنوعی هنوز قادر به ساخت سلاح‌های بیولوژیکی نیست، اما یک خطر «میان‌مدت» است و در دو یا سه سال آینده تهدیدی جدی برای امنیت ملی ایالات متحده محسوب می‌شود. دلیل این امر این است که افرادی که حملات گسترده با سلاح‌های بیولوژیکی انجام می‌دهند، دیگر محدود به افرادی با دانش تخصصی در این زمینه نیستند.

جهان با انفجار محتوای تولید شده توسط فناوری هوش مصنوعی مولد مواجه است. از ایالات متحده، اروپا تا آسیا، کنترل‌ها به تدریج در حال تشدید هستند. به گزارش CNN، از ماه سپتامبر، سنای ایالات متحده مجموعه‌ای از نه کارگاه آموزشی اضافی را برای اعضا برگزار خواهد کرد تا در مورد چگونگی تأثیر هوش مصنوعی بر مشاغل، امنیت ملی و مالکیت معنوی اطلاعات کسب کنند. پیش از ایالات متحده، در صورت دستیابی به توافق، اتحادیه اروپا سال آینده اولین قانون جهان در مورد مدیریت هوش مصنوعی را تصویب خواهد کرد که انتظار می‌رود از سال ۲۰۲۶ لازم‌الاجرا شود.

مزایایی که هوش مصنوعی برای جامعه به ارمغان می‌آورد غیرقابل انکار است، اما هشدارهای فزاینده‌ای در مورد خطرات احتمالی این فناوری جدید وجود دارد. در ماه ژوئن، آنتونیو گوترش، دبیرکل سازمان ملل متحد، از پیشنهاد چندین مدیر هوش مصنوعی برای ایجاد یک نهاد نظارتی بین‌المللی هوش مصنوعی، مشابه آژانس بین‌المللی انرژی اتمی (IAEA) حمایت کرد.

برد اسمیت، رئیس مایکروسافت، در مجمع مدل فرانتیر گفت که این ابتکار گامی مهم در گرد هم آوردن شرکت‌های فناوری برای ترویج استفاده مسئولانه از هوش مصنوعی به نفع تمام بشریت است. به طور مشابه، آنا ماکانجو، معاون رئیس امور جهانی OpenAI، گفت که فناوری پیشرفته هوش مصنوعی پتانسیل ایجاد مزایای عمیقی برای جامعه را دارد و این امر مستلزم نظارت و مدیریت است.

منبع