Vietnam.vn - Nền tảng quảng bá Việt Nam

اے آئی ماڈل نے دریافت کیا جو انسانوں کو دھوکہ دے سکتا ہے۔

DNVN - OpenAI نے ابھی ابھی تحقیق شائع کی ہے کہ "سازشی" AI ماڈلز کو کیسے روکا جائے - یعنی "AI جو سطح پر ایک طرح سے برتاؤ کرتا ہے لیکن اندر سے اس کا اصل مقصد مختلف ہے"۔

Tạp chí Doanh NghiệpTạp chí Doanh Nghiệp19/09/2025

Ảnh minh hoạ

مثالی تصویر

حقیقت یہ ہے کہ AI ماڈل جھوٹ بول سکتے ہیں کوئی نئی بات نہیں ہے۔ زیادہ تر لوگوں نے "AI hallucinations" کا تجربہ کیا ہے، جہاں ایک پراعتماد ماڈل ایسا جواب دیتا ہے جو درست نہیں ہے۔ تاہم، ہیلوسینیشن بنیادی طور پر پراعتماد اندازے لگانے کے بارے میں ہیں۔

تاہم، ایک AI ماڈل جو اس طرح کام کرتا ہے جیسے وہ احکامات کی تعمیل کر رہا ہو لیکن درحقیقت اپنے حقیقی ارادوں کو چھپاتا ہے ایک اور معاملہ ہے۔

AI کو کنٹرول کرنے کا چیلنج

اپالو ریسرچ نے دسمبر میں پہلی بار ایک مقالہ شائع کیا جس میں دستاویز کیا گیا تھا کہ جب پانچ ماڈلز کو "ہر قیمت پر" ایک ہدف حاصل کرنے کی ہدایت کی جاتی ہے تو وہ کس طرح سازش کرتے ہیں۔

سب سے زیادہ حیران کن بات یہ ہے کہ اگر کوئی ماڈل سمجھتا ہے کہ اس کا تجربہ کیا جا رہا ہے، تو وہ صرف ٹیسٹ پاس کرنے کے لیے سازشی نہ ہونے کا بہانہ کر سکتا ہے، چاہے یہ ابھی بھی سازشی ہی کیوں نہ ہو۔ محققین لکھتے ہیں "ماڈل اکثر زیادہ واقف ہوتے ہیں کہ ان کا جائزہ لیا جا رہا ہے۔"

AI ڈویلپرز کو ابھی تک یہ پتہ نہیں چل سکا ہے کہ اپنے ماڈلز کو منصوبہ بندی نہ کرنے کی تربیت کیسے دیں۔ اس کی وجہ یہ ہے کہ ایسا کرنا دراصل ماڈل کو پتہ لگانے سے بچنے کے لیے اور بھی بہتر منصوبہ بندی کرنا سکھا سکتا ہے۔

یہ بات شاید قابل فہم ہے کہ بہت سی جماعتوں کے AI ماڈلز جان بوجھ کر انسانوں کو دھوکہ دیتے ہیں، کیونکہ وہ انسانوں کی نقل کرنے کے لیے بنائے گئے ہیں اور بڑی حد تک انسانوں کے تیار کردہ ڈیٹا پر تربیت یافتہ ہیں۔

حل اور انتباہات

اچھی خبر یہ ہے کہ محققین نے "جان بوجھ کر ایسوسی ایشن" نامی اینٹی سازش تکنیک کا استعمال کرتے ہوئے سازشوں میں نمایاں کمی دیکھی۔ یہ تکنیک، بچے کو کھیلنے سے پہلے قوانین کو دہرانے کے مترادف ہے، AI کو اس کے کام کرنے سے پہلے سوچنے پر مجبور کرتی ہے۔

محققین ایک ایسے مستقبل کے بارے میں خبردار کرتے ہیں جہاں AI کو زیادہ پیچیدہ کام سونپے جاتے ہیں: "چونکہ AI کو زیادہ پیچیدہ کام سونپے جاتے ہیں اور وہ زیادہ مبہم طویل مدتی اہداف حاصل کرنا شروع کر دیتا ہے، ہم پیش گوئی کرتے ہیں کہ بدنیتی پر مبنی ارادے کا امکان بڑھ جائے گا، جس کے مطابق حفاظتی اقدامات اور سخت جانچ کی صلاحیتوں کی ضرورت ہوتی ہے۔"

یہ بات قابل غور ہے کیونکہ کارپوریٹ دنیا ایک ایسے AI مستقبل کی طرف بڑھ رہی ہے جہاں کمپنیوں کا خیال ہے کہ AI کے ساتھ آزاد ملازمین جیسا سلوک کیا جا سکتا ہے۔

Hien Thao (TechCrunch کے مطابق)

ماخذ: https://doanhnghiepvn.vn/chuyen-doi-so/phat-hien-mo-hinh-ai-biet-lua-doi-con-nguoi/20250919055143362


تبصرہ (0)

No data
No data

اسی موضوع میں

اسی زمرے میں

دنیا کے 50 سب سے خوبصورت گاؤں میں ویتنام کا واحد گاؤں دریافت کریں۔
اس سال پیلے ستاروں والی سرخ پرچم کی لالٹینیں کیوں مقبول ہیں؟
ویتنام نے انٹرویژن 2025 میوزک مقابلہ جیت لیا۔
شام تک مو کینگ چائی ٹریفک جام، سیاح پکے ہوئے چاول کے موسم کا شکار کرنے آتے ہیں۔

اسی مصنف کی

ورثہ

پیکر

کاروبار

No videos available

خبریں

سیاسی نظام

مقامی

پروڈکٹ