'AI گاڈ فادر' گروک کے جنسی اسکینڈل کے بارے میں بولتا ہے۔

Grok AI جنسی اسکینڈل سے پتہ چلتا ہے کہ مصنوعی ذہانت کی صنعت "بہت زیادہ قابو سے باہر ہے"، یوشوا بینجیو کے مطابق، جسے "AI کا گاڈ فادر" کہا جاتا ہے۔

ایلون مسک کے سوشل میڈیا اکاؤنٹ X پر نجی، غیر متفقہ تصاویر کے بڑے پیمانے پر پھیلاؤ، جو کہ AI ٹول Grok کے ذریعے تیار کیا گیا ہے، نے اس ٹیکنالوجی کی صنعت کی تیز رفتار ترقی کے بارے میں خطرے کی گھنٹی بجا دی ہے۔

یوشوا بینجیو، ایک اہم کمپیوٹر سائنس دان ، دلیل دیتے ہیں کہ ٹیکنالوجی کمپنیاں مناسب تکنیکی اور سماجی رکاوٹوں کے بغیر نظام بنا رہی ہیں۔

دی گارڈین سے بات کرتے ہوئے، بینجیو نے کہا کہ اگرچہ موجودہ صورتحال ابھی مکمل طور پر افراتفری کا شکار نہیں ہے، اسے فوری طور پر درست کرنے کی ضرورت ہے۔

انہوں نے کہا کہ "یہ صنعت بہت زیادہ غیر منظم ہے۔ AI کمپنیاں تیزی سے طاقتور نظام بنا رہی ہیں لیکن ان میں حفاظتی تحفظات کا فقدان ہے، جس کے نتیجے میں لوگوں پر واضح منفی اثرات مرتب ہو رہے ہیں۔"

Grok ایپ پر دو ممالک میں پابندی عائد کر دی گئی ہے اور اس وقت برطانیہ میں اس کی تحقیقات جاری ہیں۔ تصویر: پی اے

یہ بیان اس وقت سامنے آیا ہے جب انہوں نے حال ہی میں تاریخ دان یوول نوح ہراری اور رولز رائس کے سابق سی ای او سر جان روز کو اپنی AI سیفٹی لیب کے بورڈ آف ڈائریکٹرز میں مقرر کیا ہے۔

عوامی رائے اور سیاسی حلقوں کے دباؤ کے تحت، سوشل میڈیا پلیٹ فارم X نے اعلان کیا کہ اس نے Grok کو بکنی جیسے لباس کو ظاہر کرنے میں حقیقی لوگوں کی تصاویر میں ترمیم کرنے سے روک دیا ہے، بشمول ادا شدہ اکاؤنٹس۔

بینجیو کے مطابق، حل کا ایک حصہ بہتر طرز حکمرانی میں مضمر ہے، جس میں اخلاقی طور پر راست لوگوں کو کمپنی کے بورڈ آف ڈائریکٹرز میں شامل کرنا شامل ہے۔

ہراری اور روز کے علاوہ، اس نے Nike فاؤنڈیشن کی بانی ماریا ایٹل کو LawZero سیفٹی لیبارٹری کا صدر مقرر کیا جو اس نے گزشتہ سال قائم کی تھی۔

بینجیو کو 2018 کا ٹیورنگ پرائز ملنے کے بعد "اے آئی کا گاڈ فادر" کہا گیا تھا - ایک ایوارڈ جسے کمپیوٹنگ انڈسٹری کا نوبل انعام سمجھا جاتا ہے۔ انہوں نے اس اعزاز کو جیفری ہنٹن اور یان لیکون (میٹا میں اے آئی کے چیئرمین) کے ساتھ شیئر کیا۔

سویڈش کے سابق وزیر اعظم اسٹیفن لوفون تنظیم کے عالمی مشاورتی بورڈ کے پہلے رکن ہوں گے۔ دریں اثنا، تاریخ دان ہراری، جو * Sapiens: A Brief History of Humankind * کے مصنف ہیں، ایک نمایاں آواز ہے جو اکثر AI کی ترقی کے بارے میں متنبہ کرتی ہے، حال ہی میں اپنی کتاب *Nexus* میں۔

بینجیو نے زور دے کر کہا، "یہ صرف ایک تکنیکی بحث نہیں ہے جو AI کمپنیوں کو آگے بڑھا رہی ہے۔" "مسئلہ یہ ہے کہ کون سے انتخاب کو اخلاقی طور پر درست سمجھا جاتا ہے۔"

فی الحال مونٹریال یونیورسٹی میں کمپیوٹر سائنس کے پروفیسر، بینجیو نے LawZero کے لیے $35 ملین (تقریباً £26 ملین) اکٹھے کیے ہیں۔

یہ تنظیم Scientist AI کے نام سے ایک نظام بنا رہی ہے، جو خود مختار نظاموں کے ساتھ متوازی طور پر کام کرتا ہے – جسے AI ایجنٹ بھی کہا جاتا ہے – ممکنہ طور پر نقصان دہ رویوں کا پتہ لگانے کے لیے۔

انہوں نے تصدیق کی کہ بورڈ کا ڈھانچہ اعلیٰ اخلاق کے حامل لوگوں کو اکٹھا کرنے کے خیال پر بنایا گیا تھا۔ وہ LawZero کو ڈیزائن کے مرحلے سے ہی محفوظ AI سسٹم انجینئرنگ حل فراہم کرنے کے اپنے مشن کے لیے پرعزم رہنے میں مدد کریں گے۔

پچھلے مہینے، بینجیو نے AI کو بااختیار بنانے کے خلاف بھی خبردار کیا تھا، یہ دلیل دیتے ہوئے کہ ٹیکنالوجی خود کو محفوظ رکھنے کے آثار دکھا رہی ہے – AI کے تحفظ کے حامیوں کے لیے ایک بڑی تشویش۔ انہوں نے زور دیا کہ اگر ضرورت ہو تو انسانوں کو ان سسٹمز کو "انپلگ کرنے" سے نہیں روکا جانا چاہیے۔

(دی گارڈین کے مطابق)

دو ممالک نے ایلون مسک کے گروک چیٹ بوٹ پر عارضی طور پر پابندی لگا دی : انڈونیشیا اور ملائیشیا کی حکومتوں نے اعلان کیا ہے کہ انہوں نے فحش تصاویر کے پھیلاؤ کے بعد ایلون مسک کے ایکس اے آئی کے تیار کردہ ایک چیٹ بوٹ گروک تک رسائی کو عارضی طور پر روک دیا ہے۔

ماخذ: https://vietnamnet.vn/bo-gia-ai-len-tieng-ve-be-boi-anh-khieu-dam-cua-grok-2482400.html