امریکی پولیس نے خبردار کیا ہے کہ اے آئی بے گھر لوگوں کو مذاق میں بدل دیتی ہے۔

بہت سے صارفین AI کا استعمال بے گھر لوگوں کی تصاویر بنانے کے لیے کرتے ہیں جو اپنے گھروں میں اپنے والدین سے مذاق کرنے کے لیے ظاہر ہوتے ہیں۔

AI ٹیکنالوجی تخلیقی صلاحیتوں کے ایک بے مثال دور کا آغاز کر رہی ہے، جہاں لوگ صرف چند کلکس سے تصاویر، آوازیں اور ڈیجیٹل مواد تخلیق کر سکتے ہیں۔ تاہم، یہ سہولت سنگین خطرات کے ساتھ بھی آتی ہے، خاص طور پر جب AI کو خطرناک مذاق بنانے کے لیے ایک ٹول کے طور پر استعمال کیا جاتا ہے۔

بظاہر بے ضرر حالات سماجی، قانونی اور نفسیاتی بحرانوں کا ایندھن بن رہے ہیں۔

AI بے گھر لوگوں کو TikTok مذاق میں ورچوئل کرداروں میں بدل دیتا ہے – تفریح ​​اور جرم کے درمیان کی لکیر دھندلا رہی ہے۔ (ماخذ: دی ورج)

TikTok اور "AI بے گھر" لطیفہ

امریکہ میں، ایک ٹک ٹاک ٹرینڈ پولیس کی طرف سے خطرے کی گھنٹی بجا رہا ہے: صارفین گھروں میں نظر آنے والے بے گھر مردوں کی تصاویر بنانے کے لیے اسنیپ چیٹ کا AI استعمال کر رہے ہیں، پھر ان کے والدین کے خوف زدہ ردعمل کو فلما رہے ہیں۔ کچھ والدین نے پولیس کو فون کیا ہے، جس نے ایک ہنگامی ردعمل کا اشارہ کیا ہے جو حقیقی بریک ان کی طرح لگتا ہے۔

سیلم، میساچوسٹس پولیس ڈیپارٹمنٹ نے خبردار کیا ہے کہ اس رویے کے نتیجے میں سوات کارروائی ہو سکتی ہے۔

ایجنسی نے ایک بیان میں اس کا بہترین خلاصہ کیا: "یہ مذاق بے گھر افراد کی توہین کرتا ہے، کال کرنے والوں میں خوف و ہراس پھیلاتا ہے، اور پولیس کے وسائل کو ضائع کرتا ہے۔ جواب دینے کے لیے بلائے گئے افسران اس مذاق سے لاعلم تھے اور کال کو حقیقی چوری کے طور پر پیش کیا گیا، جس سے ممکنہ طور پر خطرناک صورتحال پیدا ہو گئی۔"

اے آئی کے مذاق نہ صرف امریکہ میں بلکہ پوری دنیا میں پھیل رہے ہیں۔ بھارت میں، 2024 کے انتخابات کے دوران ایک ڈیپ فیک ویڈیو نے عوامی الجھن کا باعث بنا جب ایک سیاست دان پر متنازعہ بیانات دینے کا الزام لگایا گیا - جو مکمل طور پر AI کے ذریعے تیار کیا گیا تھا۔

پوری دنیا میں، اپریل فول کا دن ایک "اے آئی پلے گراؤنڈ" بن گیا ہے جس میں مشہور شخصیات کی جعلی تصاویر، رشتہ داروں کے جعلی پیغامات، نفسیاتی صدمے کا باعث بنتے ہیں اور ہنگامی خدمات میں خلل پڑتا ہے۔

یونیورسٹی کالج لندن کے ایک محقق لیوس گرفن نے خبردار کیا ہے کہ "AI ٹیکنالوجی کی ترقی مجرمانہ مقاصد کے لیے استحصال یا سماجی خوف و ہراس کے خطرے کے ساتھ آتی ہے۔"

Gyeongbokgung Palace میں سیلاب کا منظر AI کے ذریعے تخلیق کیا گیا۔ (تصویر ویڈیو ، ماخذ: یوٹیوب سے کٹ)۔

تعلیم اور کنٹرول

AI کے غلط استعمال کو روکنے کے لیے، صارفین کو، خاص طور پر نوجوانوں کو، ٹیکنالوجی کی اخلاقیات کے بارے میں تعلیم دینا ضروری ہے۔ AI کوئی کھلونا نہیں ہے، اور اسے جعلی مواد بنانے کے لیے استعمال کرنا ممکنہ طور پر نقصان دہ رویے کے طور پر دیکھا جانا چاہیے۔

TikTok اور Snapchat جیسے پلیٹ فارمز کو AI مواد کے مضبوط فلٹرز کو لاگو کرنے کی ضرورت ہوتی ہے، اس کے ساتھ ساتھ جب صارفین جعلی تصاویر یا آوازیں بناتے ہیں تو واضح انتباہات ہوتے ہیں۔ اس سے نہ صرف صارفین کی حفاظت ہوگی بلکہ کمیونٹی میں خوف و ہراس پھیلانے کا خطرہ بھی کم ہوگا۔

پیو ریسرچ کے سروے کے مطابق، اگرچہ عوام میں اب بھی AI کے بارے میں بہت سے خدشات ہیں، ماہرین زیادہ پر امید ہیں۔ تاہم، دونوں گروپ اس بات پر متفق ہیں کہ بدسلوکی کو روکنے کے لیے واضح ضوابط کی ضرورت ہے۔ اے آئی کو کنٹرول کرنے کے لیے قانونی ڈھانچہ اور عمل کی تعمیر نہ صرف حکومت کی ذمہ داری ہے بلکہ پورے معاشرے کی ذمہ داری ہے۔

AI تصوراتی دنیایں تخلیق کر سکتا ہے، لیکن اگر اسے چیک نہ کیا جائے تو یہ آسانی سے الجھنوں اور علمی تحریف کا آلہ بن سکتا ہے۔ (ماخذ: loveonly.ai/Instagram)

اس کے علاوہ، حکام کو مناسب ردعمل کے طریقہ کار کو تیار کرنے کے لیے ٹیکنالوجی کمپنیوں کے ساتھ مل کر کام کرنے کی ضرورت ہے۔ جب ایک AI مذاق ہنگامی کال کی طرف لے جاتا ہے، وسائل کے ضیاع اور زیادہ ردعمل کے خطرے کو نظر انداز نہیں کیا جا سکتا۔

مسٹر کوانگ

ماخذ: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html