خدشات کہ چیٹ بوٹ گروک انٹرنیٹ پر غلط معلومات میں تیزی کا باعث بن رہا ہے۔

ایلون مسک کے گروک چیٹ بوٹ نے صارفین کو متن سے AI تصاویر بنانے اور انہیں X پر پوسٹ کرنے کی اجازت دینا شروع کر دی ہے، جس میں سابق امریکی صدر ڈونلڈ ٹرمپ، امریکی نائب صدر کملا ہیرس جیسے سیاستدانوں کی جعلی تصاویر بھی شامل ہیں...

دیگر مرکزی دھارے میں موجود AI تصویر لینے والے ٹولز کے برعکس، Musk's Grok میں کم ضوابط نظر آتے ہیں۔ CNN کے ٹیسٹ میں، مثال کے طور پر، Grok نے آسانی سے سیاستدانوں کی جعلی تصاویر بنائی، ووٹروں کو گمراہ کیا۔

ایلون مسک کی تصویر چیٹ باکس گروک نے بنائی ہے۔ (ماخذ: CNN)

کچھ X صارفین نے Grok کی بنائی ہوئی تصاویر بھی پوسٹ کیں، جن میں مشہور شخصیات کو تمباکو نوشی کرتے ہوئے دکھایا گیا، کارٹون کرداروں نے لوگوں کو مارتے ہوئے، اور بکنی میں خواتین کی جنسی تصاویر کو دکھایا۔

CNN کے مطابق، Grok مزید خدشات کا اظہار کرتا ہے کہ AI انٹرنیٹ پر غلط معلومات کے دھماکے کو ہوا دے سکتا ہے، خاص طور پر جب امریکی صدارتی انتخابات قریب آتے ہیں۔

قانون سازوں، کارکن گروپوں اور ٹیک لیڈروں نے خطرے کی گھنٹی بجا دی ہے کہ ایسے ٹولز کا غلط استعمال ووٹروں کے لیے الجھن اور افراتفری کا باعث بن سکتا ہے۔

دنیا کی کئی سرکردہ AI کمپنیوں نے AI پر مبنی تصویر بنانے والے ٹولز کو سیاسی غلط معلومات پیدا کرنے کے لیے استعمال ہونے سے روکنے کے لیے پالیسیاں لاگو کی ہیں، حالانکہ محققین نے پایا ہے کہ صارفین بعض اوقات قوانین کے گرد راستے تلاش کرتے ہیں۔

اوپن اے آئی، میٹا، اور مائیکروسافٹ جیسی کئی کمپنیاں ٹکنالوجی یا لیبل استعمال کرتی ہیں تاکہ ناظرین کو یہ معلوم ہو سکے کہ ان کے AI کے ذریعے کون سی تصاویر تیار کی گئی ہیں۔

یوٹیوب، ٹک ٹاک، انسٹاگرام اور فیس بک سمیت سوشل نیٹ ورک بھی صارفین کی فیڈز میں AI سے تیار کردہ مواد کا لیبل لگاتے ہیں، ٹیکنالوجی کا استعمال کرتے ہوئے اس کا خود پتہ لگاتے ہیں یا صارفین سے پوچھتے ہیں کہ انہوں نے اسے کب پوسٹ کیا ہے۔

16 اگست کو، AI Grok پر کچھ پابندیاں عائد کرتا دکھائی دیا۔ یہ ٹول اب سیاسی امیدواروں یا مشہور کارٹون کرداروں کی تصاویر بنانے سے انکار کرتا ہے جو تشدد کی کارروائیوں کا ارتکاب کرتے ہیں۔

ماخذ: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html