نئے AI کو حیاتیاتی ہتھیار بنانے کے لیے استعمال کیا جا سکتا ہے۔

فون OpenAI کے GPT-o1 کے بارے میں سیکھنے کا انٹرفیس دکھاتا ہے - تصویر: فنانشل ٹائمز

13 ستمبر کو فنانشل ٹائمز کے مطابق، OpenAI نے اعتراف کیا کہ اس کا GPT-o1 ماڈل، جو 12 ستمبر کو لانچ کیا گیا، "نمایاں طور پر" مصنوعی ذہانت (AI) کا بائیولوجیکل ہتھیار بنانے کے لیے استعمال کیے جانے کے خطرے کو بڑھاتا ہے۔

OpenAI کی دستاویزات یہ بتاتی ہیں کہ GPT-o1 کیسے کام کرتا ہے اس بات کی تصدیق کرتا ہے کہ نئے ماڈل میں کیمیائی، حیاتیاتی، ریڈیولاجیکل، اور جوہری ہتھیاروں سے متعلق مسائل کے حوالے سے "درمیانے خطرے کی سطح" ہے۔ یہ سب سے زیادہ خطرے کی سطح ہے جو OpenAI نے اپنے AI ماڈلز کو تفویض کی ہے۔

OpenAI کے مطابق، اس کا مطلب ہے کہ GPT-o1 ماہرین کی غلط استعمال کے لیے حیاتیاتی ہتھیار بنانے کی صلاحیت کو "نمایاں طور پر بہتر" کر سکتا ہے۔

OpenAI کی چیف ٹیکنالوجی آفیسر (CTO) میرا مورتی نے کہا کہ اگرچہ GPT-o1 ابھی بھی آزمائشی مرحلے میں ہے، لیکن اس ماڈل کی جدید صلاحیتوں کے لیے کمپنی کو اس کے روڈ میپ کے بارے میں انتہائی محتاط رہنے کی ضرورت ہے تاکہ اسے عوام کے سامنے لایا جا سکے۔

محترمہ مورتی نے یہ بھی زور دے کر کہا کہ ماہرین کی کثیر الشعبہ ٹیم کے ذریعہ اس ماڈل کا اچھی طرح سے تجربہ کیا گیا ہے۔ ان افراد کو OpenAI نے کمپنی کے تیار کردہ ماڈل کی حدود کا جائزہ لینے کے لیے رکھا تھا۔

مراتی نے شیئر کیا کہ جانچ کے عمل سے ظاہر ہوتا ہے کہ GPT-o1 ماڈل اپنے پیشروؤں کے مقابلے میں عمومی حفاظت کے معیار پر پورا اترتا ہے۔

مزید برآں، OpenAI کے نمائندوں نے یقین دلایا کہ GPT-o1 ٹرائل ورژن "تعیناتی کے لیے محفوظ" ہے اور پہلے سے تیار شدہ ٹیکنالوجیز سے زیادہ پیچیدہ خطرات پیدا نہیں کر سکتا۔

ان یقین دہانیوں کے باوجود، سائنسی برادری کا ایک بڑا طبقہ اور اے آئی کے شوقین اس ٹیکنالوجی کے مستقبل کے بارے میں بڑی حد تک مایوسی کا شکار ہیں۔

AI کے بہت تیزی سے نشوونما پانے اور اس پر حکمرانی کرنے والے ضوابط جس رفتار سے تیار اور منظور کیے جا رہے ہیں اس سے آگے بڑھنے کے خدشات بڑھ رہے ہیں۔

مونٹریال یونیورسٹی کے کمپیوٹر سائنس کے ماہر پروفیسر یوشوا بینجیو اور دنیا کے معروف AI سائنسدانوں میں سے ایک نے کہا کہ اگر OpenAI فی الحال کیمیائی اور حیاتیاتی ہتھیاروں کا "درمیانی خطرہ" لاحق ہے، تو یہ "صرف ضابطوں کی اہمیت اور فوری ضرورت کو تقویت دیتا ہے، جیسے کہ کیلیفورنیا میں اس بل پر گرما گرم بحث ہو رہی ہے۔"

اس سائنسدان نے اس بات پر زور دیا کہ یہ ادارے خاص طور پر اس تناظر میں ضروری ہیں کہ AI تیزی سے عالمگیر مصنوعی ذہانت (AGI) کی سطح تک پہنچ رہا ہے، جو کہ انسانوں کے برابر استدلال کرنے کی صلاحیت ہے۔

بینجیو نے اندازہ لگایا کہ "اے آئی ماڈلز AGI تک جتنے قریب ہوں گے، اگر مناسب احتیاط نہ برتی جائے تو خطرات اتنے ہی بڑھتے جائیں گے۔ AI کی استدلال کی صلاحیتوں میں بہتری اور دھوکہ دہی کے لیے اس کا ممکنہ استعمال انتہائی خطرناک ہے،" بینجیو نے اندازہ لگایا۔

ماخذ: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm