يمكن استخدام الذكاء الاصطناعي الجديد لإنشاء أسلحة بيولوجية.

يُظهر الهاتف واجهة التعلّم الخاصة بنموذج GPT-o1 من OpenAI - الصورة: فاينانشيال تايمز

بحسب صحيفة فايننشال تايمز في 13 سبتمبر، اعترفت شركة OpenAI بأن نموذج GPT-o1 الخاص بها، والذي تم إطلاقه في 12 سبتمبر، يزيد "بشكل كبير" من خطر استغلال الذكاء الاصطناعي (AI) لإنشاء أسلحة بيولوجية.

تؤكد وثائق OpenAI التي تشرح آلية عمل GPT-o1 أن النموذج الجديد يتمتع بمستوى مخاطر متوسط ​​فيما يتعلق بالقضايا المرتبطة بالأسلحة الكيميائية والبيولوجية والإشعاعية والنووية. وهذا أعلى مستوى مخاطر حددته OpenAI على الإطلاق لنماذج الذكاء الاصطناعي الخاصة بها.

وفقًا لـ OpenAI، هذا يعني أن GPT-o1 يمكن أن "يحسن بشكل كبير" قدرة الخبراء على تصنيع الأسلحة البيولوجية لإساءة استخدامها.

قالت ميرا موراتي، كبيرة مسؤولي التكنولوجيا في شركة OpenAI، إنه على الرغم من أن GPT-o1 لا يزال في مرحلة الاختبار، فإن القدرات المتقدمة لهذا النموذج تتطلب من الشركة أن تكون "حذرة" للغاية بشأن خارطة طريقها لطرحه للجمهور.

وأكدت السيدة موراتي أيضاً أن النموذج قد خضع لاختبارات شاملة من قبل فريق متعدد التخصصات من الخبراء. وقد استعانت شركة OpenAI بهؤلاء الخبراء لدراسة أوجه القصور في النموذج الذي طورته الشركة.

وأوضح موراتي أن عملية الاختبار أظهرت أن طراز GPT-o1 يفي بمعايير السلامة العامة بشكل أفضل بكثير من الطرازات السابقة.

علاوة على ذلك، أكد ممثلو OpenAI أن النسخة التجريبية من GPT-o1 "آمنة للنشر" ولا يمكنها خلق مخاطر أكثر تعقيدًا من تلك التقنيات المطورة بالفعل.

على الرغم من هذه التطمينات، لا تزال شريحة كبيرة من المجتمع العلمي وعشاق الذكاء الاصطناعي متشائمين إلى حد كبير بشأن مستقبل هذه التقنية.

تتزايد المخاوف بشأن تطور الذكاء الاصطناعي بسرعة كبيرة وتجاوزه لسرعة تطوير واعتماد اللوائح التي تحكمه.

قال البروفيسور يوشوا بنجيو، المتخصص في علوم الكمبيوتر في جامعة مونتريال وأحد أبرز علماء الذكاء الاصطناعي في العالم ، إنه إذا كانت OpenAI تشكل حاليًا "خطرًا متوسطًا" للأسلحة الكيميائية والبيولوجية، فإن "هذا يؤكد فقط على أهمية وإلحاح" اللوائح، مثل مشروع القانون الذي نوقش بشدة في كاليفورنيا، لتنظيم هذا المجال.

أكد هذا العالم أن هذه المؤسسات ضرورية بشكل خاص في سياق اقتراب الذكاء الاصطناعي بشكل متزايد من مستوى الذكاء الاصطناعي العالمي (AGI)، وهو القدرة على التفكير على قدم المساواة مع البشر.

"كلما اقتربت نماذج الذكاء الاصطناعي الرائدة من الذكاء الاصطناعي العام، زادت المخاطر إذا لم تُتخذ الاحتياطات اللازمة. إن تحسن قدرات الذكاء الاصطناعي على الاستدلال وإمكانية استخدامه في الاحتيال أمر في غاية الخطورة"، هذا ما خلص إليه بينجيو.

المصدر: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm