AI سے پیدا ہونے والے بچوں کے ساتھ بدسلوکی کے مواد کی ہزاروں رپورٹس

حالیہ مہینوں میں، بچوں کی حفاظت کے ماہرین اور محققین نے اس خطرے سے خبردار کیا ہے کہ مصنوعی AI آن لائن بدسلوکی کو بڑھا سکتا ہے۔

بچوں کے ساتھ بدسلوکی کے مواد کے بارے میں ہزاروں رپورٹیں کسی کی تصویر 1 کے ذریعے تخلیق کی گئی ہیں۔ — میٹا کے سی ای او مارک زکربرگ 31 جنوری 2024 کو امریکی سینیٹ کی عدلیہ کمیٹی کی سماعت میں AI سے تیار کردہ تصاویر والے حاضرین کے ہجوم کے سامنے تقریر کر رہے ہیں۔ تصویر: رائٹرز

NCMEC نے ابھی تک 2023 میں موصول ہونے والے تمام ذرائع سے بچوں کے ساتھ بدسلوکی کے مواد کی کل رپورٹس جاری نہیں کیں۔ لیکن 2022 میں، اسے اس مسئلے کے بارے میں تقریباً 88.3 ملین فائلوں کی رپورٹس موصول ہوئیں۔

این سی ایم ای سی کے نائب صدر جان شیہان نے کہا، "ہمیں اختراعی AI کمپنیوں، (آن لائن) پلیٹ فارمز، اور عوام کے اراکین سے رپورٹس مل رہی ہیں۔"

Meta, X, TikTok, Snap اور Discord کے CEOs نے بدھ (31 جنوری) کو آن لائن پلیٹ فارمز پر بچوں کی حفاظت سے متعلق امریکی سینیٹ کی سماعت میں گواہی دی۔ امریکی قانون سازوں نے سوشل میڈیا کمپنیوں سے بچوں کو "آن لائن شکاریوں" سے بچانے کی کوششوں کے بارے میں سوال کیا۔

اسٹینفورڈ انٹرنیٹ آبزرویٹری کے محققین نے گزشتہ جون میں ایک رپورٹ میں کہا کہ جنریٹو اے آئی کو برے اداکار استعمال کر کے حقیقی زندگی کے بچوں کو ان کی جعلی تصاویر بنا کر بار بار نقصان پہنچا سکتے ہیں۔

NCMEC کی سائبر ٹِپ لائن کے ڈائریکٹر، Fallon McNulty، جو آن لائن بچوں کے استحصال کی رپورٹیں لیتی ہے، نے کہا کہ AI سے تیار کردہ مواد "زیادہ سے زیادہ فوٹو ریئلسٹک" ہوتا جا رہا ہے، جس سے یہ تعین کرنا مشکل ہو رہا ہے کہ آیا متاثرین حقیقی لوگ ہیں۔

McNulty نے کہا کہ OpenAI، کمپنی جس نے ChatGPT کو بنایا، نے NCMEC کو رپورٹس جمع کرانے کے لیے ایک عمل ترتیب دیا ہے، اور تنظیم دیگر AI کمپنیوں کے ساتھ بات چیت کر رہی ہے۔

ہوانگ ہائی (رائٹرز، ایف ٹی کے مطابق)

ماخذ