هوش مصنوعی جدید می‌تواند برای ساخت سلاح‌های بیولوژیکی مورد استفاده قرار گیرد.

گوشی رابط کاربری مربوط به یادگیری در مورد GPT-o1 شرکت OpenAI را نشان می‌دهد - عکس: فایننشال تایمز

طبق گزارش فایننشال تایمز در ۱۳ سپتامبر، شرکت OpenAI اذعان کرد که مدل GPT-o1 آن که در ۱۲ سپتامبر عرضه شد، «به‌طور قابل‌توجهی» خطر سوءاستفاده از هوش مصنوعی (AI) برای ساخت سلاح‌های بیولوژیکی را افزایش می‌دهد.

مستندات OpenAI که نحوه عملکرد GPT-o1 را توضیح می‌دهد، تأیید می‌کند که مدل جدید در رابطه با مسائل مربوط به سلاح‌های شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای دارای «سطح ریسک متوسط» است. این بالاترین سطح ریسکی است که OpenAI تاکنون به مدل‌های هوش مصنوعی خود اختصاص داده است.

طبق گفته OpenAI، این بدان معناست که GPT-o1 می‌تواند توانایی متخصصان در ساخت سلاح‌های بیولوژیکی برای سوءاستفاده را «به‌طور قابل‌توجهی بهبود بخشد».

میرا موراتی، مدیر ارشد فناوری (CTO) شرکت OpenAI، گفت که اگرچه GPT-o1 هنوز در مرحله آزمایش است، اما قابلیت‌های پیشرفته این مدل ایجاب می‌کند که شرکت در مورد نقشه راه خود برای عرضه عمومی آن بسیار "محتاط" باشد.

خانم موراتی همچنین ادعا کرد که این مدل توسط یک تیم چندرشته‌ای از متخصصان به طور کامل آزمایش شده است. این افراد توسط OpenAI استخدام شده‌اند تا محدودیت‌های مدل توسعه‌یافته توسط این شرکت را بررسی کنند.

موراتی به اشتراک گذاشت که فرآیند آزمایش نشان داد که مدل GPT-o1 معیارهای ایمنی عمومی را بسیار بهتر از مدل‌های قبلی خود برآورده می‌کند.

علاوه بر این، نمایندگان OpenAI اطمینان دادند که نسخه آزمایشی GPT-o1 «برای استقرار ایمن» است و نمی‌تواند خطراتی پیچیده‌تر از فناوری‌های توسعه‌یافته قبلی ایجاد کند.

با وجود این اطمینان‌ها، بخش بزرگی از جامعه علمی و علاقه‌مندان به هوش مصنوعی تا حد زیادی نسبت به آینده این فناوری بدبین هستند.

نگرانی‌ها در مورد توسعه‌ی سریع هوش مصنوعی و پیشی گرفتن آن از سرعت تدوین و تصویب مقررات مربوط به آن، رو به افزایش است.

پروفسور یوشوا بنگیو، متخصص علوم کامپیوتر در دانشگاه مونترال و یکی از دانشمندان برجسته هوش مصنوعی در جهان ، گفت که اگر OpenAI در حال حاضر «خطر متوسط» سلاح‌های شیمیایی و بیولوژیکی را ایجاد می‌کند، پس «این تنها اهمیت و فوریت» مقرراتی مانند لایحه بحث‌برانگیز کالیفرنیا برای اداره این حوزه را تقویت می‌کند.

این دانشمند تأکید کرد که این نهادها به ویژه در زمینه هوش مصنوعی که به طور فزاینده‌ای به سطح هوش مصنوعی جهانی (AGI) نزدیک می‌شود، ضروری هستند، که توانایی استدلال در سطح انسان است.

بنجیو ارزیابی کرد: «هرچه مدل‌های پیشگام هوش مصنوعی به هوش مصنوعی عمومی (AGI) نزدیک‌تر می‌شوند، در صورت عدم اقدامات احتیاطی مناسب، خطرات بیشتر می‌شوند. بهبود توانایی‌های استدلال هوش مصنوعی و استفاده بالقوه از آن برای کلاهبرداری بسیار خطرناک است.»

منبع: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm