OpenAI ChatGPT پر 18+ موڈ کو فعال کرتا ہے: نابالغوں کی حفاظت کیسے کی جائے؟

OpenAI تصدیق شدہ صارفین کو دسمبر 2025 سے بالغوں کے مواد تک رسائی کی اجازت دے گا، جو ایک نئی مارکیٹ کھولے گا لیکن نابالغوں کے تحفظ کے حوالے سے ایک بڑا چیلنج ہے۔

بچوں کے لیے عمر کی تصدیق اور حفاظتی انتباہات کے ساتھ بالغ چیٹ بوٹ۔

OpenAI کی تصدیق کہ یہ تصدیق شدہ بالغ صارفین کو ChatGPT پر دسمبر 2025 سے بالغوں کے مواد تک رسائی کی اجازت دے گا، انڈسٹری کے لیے ایک اہم سنگ میل کے طور پر دیکھا جا رہا ہے، دونوں ہی مارکیٹ کی ترقی کو بڑھا رہے ہیں اور نابالغوں کے تحفظ کے لیے ایک نیا معیار قائم کر رہے ہیں۔

بالغ چیٹ بوٹس - AI کے لیے نیا ریس ٹریک۔

AI پلیٹ فارمز نے بڑوں کی ضروریات کو پورا کرنے کے لیے تیزی سے ماڈلز تعینات کیے ہیں، مباشرت کی بات چیت سے لے کر جذباتی مدد تک۔

سی ای او سیم آلٹمین کے مطابق، ذہنی صحت کے خطرات سے بچنے کے لیے ChatGPT کو پہلے "بہت زیادہ پابندیاں" لگائی گئی تھیں، لیکن اس طریقہ کار نے بہت سے صارفین کے لیے ماڈل کو "کم مفید اور کم دلکش" بنا دیا۔ انہوں نے کہا کہ OpenAI "بالغوں کے ساتھ بالغوں کی طرح برتاؤ" کے اصول پر منتقل ہو رہا ہے۔

تصدیق شدہ صارفین کے لیے کنٹرولڈ رسائی موڈ کے اضافے نے پہلے سے تیزی سے بڑھتی ہوئی بالغ چیٹ بوٹ مارکیٹ کو مزید جاندار بنا دیا ہے۔

مسابقتی منظر نامہ اور بھی واضح ہو گیا ہے کیونکہ ایلون مسک کے xAI پر حال ہی میں بین الاقوامی میڈیا کی طرف سے مشہور شخصیت سے متعلقہ بالغ مواد بنانے کی صلاحیت کے بارے میں سوال کیا گیا ہے، جس سے تحفظ کے نئے معیارات کے فوری مطالبات سامنے آئے ہیں۔

عمر کی تصدیق کا "مسئلہ"۔

بالغوں کے مواد تک رسائی کو کھولنا ایک بڑا چیلنج پیش کرتا ہے: صارف کی عمر کی تصدیق کرنا۔ شناختی دستاویزات کا استعمال کرتے ہوئے توثیق اعلی وشوسنییتا پیش کرتی ہے لیکن اس سے رازداری اور ذاتی ڈیٹا کی حفاظت کو خطرات لاحق ہوتے ہیں۔ دریں اثنا، AI پر مبنی طرز عمل یا زبان پر مبنی توثیق کے طریقوں کے لیے بڑے ڈیٹا سیٹس، جدید ترین ماڈلز کی ضرورت ہوتی ہے، اور پھر بھی صارفین کی طرف سے نظرانداز کیے جانے کا خطرہ ہوتا ہے۔

چیلنج کو AI مواد کی تخلیق کی خصوصیات سے مزید تقویت ملی ہے۔ چیٹ بوٹس حقیقی وقت میں نئی ​​معلومات پیدا کر سکتے ہیں، گفتگو کو حساس طریقوں سے بڑھا سکتے ہیں، یا مبہم درخواستوں کی تشریح نامناسب مواد میں کر سکتے ہیں۔

خطرات ڈرامائی طور پر بڑھ جاتے ہیں جب ماڈل متعدد میڈیا جیسے امیج، آڈیو، اور ویڈیو تخلیق کو سپورٹ کرتا ہے۔ نابالغوں پر مشتمل حساس مواد کی نقل یا ترکیب کرنے کی کسی بھی صلاحیت کو، حتیٰ کہ نقلی شکل میں بھی، بالکل روکنا چاہیے، جس کے لیے ڈویلپرز کو ماڈل ڈیزائن کی تہہ سے مواد کی فلٹرنگ پرت تک کنٹرول میکانزم قائم کرنے کی ضرورت ہوتی ہے۔

AI کاروباروں پر ذمہ داری کا دباؤ۔

یہ خبر کہ OpenAI بالغوں کے مواد کے موڈ کو فعال کرنے والا ہے، بہت سی بچوں کے تحفظ کی تنظیموں میں تشویش کا باعث ہے۔ وہ متنبہ کرتے ہیں کہ AI کا استعمال کرتے ہوئے بالغوں کے مواد کو قانونی حیثیت دینا نادانستہ طور پر نابالغوں کو "لائن کو عبور کرنے" کے طریقے تلاش کرنے کی ترغیب دے سکتا ہے۔

ویتنام میں، بہت سے والدین نے اس بات پر بھی تشویش کا اظہار کیا ہے کہ روایتی طور پر سیکھنے سے وابستہ ایک پلیٹ فارم، جیسے ChatGPT، نے بالغوں کے لیے ایک موڈ متعارف کرایا ہے۔

یہ دباؤ AI کمپنیوں کو "ڈیزائن کے لحاظ سے حفاظت" کے اصول کو مکمل طور پر نافذ کرنے پر مجبور کرتے ہیں: تربیتی ڈیٹا کو کنٹرول کرنا، ان پٹ اور آؤٹ پٹ کی نگرانی، ریئل ٹائم فلٹرز کی تعیناتی، اور باقاعدہ آڈٹ میکانزم کو برقرار رکھنا۔

کاموں میں شفافیت، حفاظتی اقدامات کا عوامی انکشاف، اور کمیونٹی کے تاثرات کی قبولیت بالغوں کے لیے ایک محفوظ ماحول پیدا کرنے کے لیے لازمی تقاضے بنتے جا رہے ہیں تاکہ کمزور صارف گروپوں کو خطرات لاحق نہ ہوں۔

OpenAI کا تصدیق شدہ صارفین کو بالغوں کے مواد تک رسائی کی اجازت دینے کا فیصلہ نہ صرف ایک تجارتی سنگ میل ہے بلکہ ایک یاد دہانی بھی ہے کہ تکنیکی اختراع کو ذمہ دار معیارات کے ساتھ ہونا چاہیے۔

AI ماحولیاتی نظام کے پائیدار ترقی کے لیے، کاروباری اداروں کو حفاظت کو ترجیح دینے کی ضرورت ہے، جدت طرازی اور کمیونٹی کی حفاظت کی ذمہ داری کے درمیان توازن برقرار رکھنا۔

گانا TRI

ماخذ: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm