کودکان در معرض خطر قربانی شدن توسط هوش مصنوعی هستند، زمانی که والدین عکس‌های خود را به صورت آنلاین منتشر می‌کنند.

انفجار اطلاعات و ارتباطات در شبکه‌های اجتماعی به طور خاص و اینترنت به طور کلی باعث شده است که بسیاری از مردم عادت کنند تمام احساسات و وقایع زندگی شخصی خود را بدون پیش‌بینی خطرات آن در اینترنت به اشتراک بگذارند. بسیاری از بزرگسالان نه تنها تصاویر و ویدیوهای خود را به صورت آنلاین منتشر می‌کنند، بلکه به خود حق می‌دهند بدون اجازه، محتوایی حاوی چهره یا صدای کودکان را منتشر کنند. به محض اینکه این تصاویر و ویدیوها به صورت آنلاین ظاهر شوند، هر کسی که به آنها دسترسی داشته باشد می‌تواند بدون هیچ محدودیتی از آنها استفاده کند.

ژوئیه گذشته، شبکه آلمانی دویچه تلکام یک تبلیغ ساختگی منتشر کرد که نشان می‌داد چگونه می‌توان با استفاده از هوش مصنوعی (AI) برای اهداف مختلف، از تصاویر کودکان خردسال به صورت آنلاین سوءاستفاده کرد. این کلیپ با عنوان «پیامی از الا» ، با استفاده از هوش مصنوعی و دیپ‌فیک، نسخه‌ای بزرگسال از تصاویر و ویدیوهای الای خردسال که توسط والدینش به صورت آنلاین منتشر شده بود، ایجاد می‌کند.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — «الای بزرگسال» توسط هوش مصنوعی از تصاویر الای ۹ ساله در رسانه‌های اجتماعی در ویدیوی هشدار دویچه تلکام ساخته شده است.

«ای اِلا» می‌تواند مثل یک آدم واقعی حرکت کند و حرف بزند، و وقتی پدر و مادرش دخترشان را روی پرده بزرگ سینما دیدند، شوکه شدند. او حتی می‌تواند گریه کند و درست مثل یک انسان احساساتش را بروز دهد.

«می‌دانم که برای شما، این عکس‌ها خاطره هستند. اما برای دیگران، داده‌ها هستند. و برای من، می‌توانند آغاز یک آینده وحشتناک باشند که در آن هویتم ممکن است دزدیده شود، ممکن است به خاطر کارهایی که نکرده‌ام به زندان بیفتم... آنچه شما به صورت آنلاین به اشتراک می‌گذارید، نقاط عطف دیجیتالی هستند که تا آخر عمر با من خواهند بود.» این را شخصیت هوش مصنوعی، الا، به اشتراک گذاشت.

تنها با یک عکس مشترک، هوش مصنوعی می‌تواند نسخه‌ی بزرگسال یک دختر ۹ ساله را بسازد. دیپ‌فیک صداها را از ویدیوها استخراج کرده و به صدای بزرگسالان تبدیل می‌کند. تصاویر و ویدیوها می‌توانند کاملاً جعلی باشند، داده‌های شناسایی شخصی به اطلاعات ارزشمندی تبدیل می‌شوند که برای اهداف غیرقانونی دزدیده می‌شوند. به همین جا ختم نمی‌شود، افراد شرور می‌توانند از تصاویر جمع‌آوری‌شده به‌صورت آنلاین برای برش و چسباندن استفاده کنند، از هوش مصنوعی برای ایجاد پورنوگرافی کودکان یا مجموعه‌ای از عکس‌هایی که حقیقت را مسخره، بدنام و تحریف می‌کنند، استفاده کنند...

کریستین لوفرت، رئیس ارتباطات و بازاریابی دویچه تلکام، گفت: «مطالعات اخیر نشان می‌دهد که به طور متوسط حدود ۱۵۰۰ عکس از یک کودک پنج ساله بدون رضایت او به صورت آنلاین منتشر شده است، که توسط کسی جز کسی که به او بیشترین اعتماد را دارد، یعنی مادر یا پدرش، منتشر شده است.»

به گزارش نیویورکر، کارشناسان تخمین می‌زنند که تا سال ۲۰۳۰، دو سوم سرقت هویت ناشی از اشتراک‌گذاری کنترل‌نشده عکس در رسانه‌های اجتماعی خواهد بود. دویچه تلکام همچنین به گزارشی اشاره کرد که نشان می‌دهد بیش از ۷۵ درصد والدین اکنون داده‌های مربوط به فرزندانشان را در رسانه‌های اجتماعی به اشتراک می‌گذارند. در همین حال، از هر ۱۰ والدین، هشت نفر اعضای رسانه‌های اجتماعی دارند که حساب‌های آنها را دنبال می‌کنند، بدون اینکه هرگز آنها را در زندگی واقعی ملاقات کرده باشند.

اخیراً، توسعه ابزارهای هوش مصنوعی بیش از پیش «محبوب» شده و از طریق مجموعه‌ای از برنامه‌ها در دستگاه‌های تلفن همراه به کاربران عادی نیز رسیده است. بسیاری از افراد به جای احتیاط در استفاده از این برنامه‌ها، با بی‌دقتی عکس‌های شخصی یا خانوادگی خود را برای انتشار در شبکه‌های اجتماعی ارائه می‌دهند. این اقدام ناخواسته حجم زیادی از داده‌های رایگان را برای هوش مصنوعی فراهم می‌کند تا در مورد افراد، از ساختار صورت گرفته تا محیط اطراف، اطلاعات کسب کند.

بسیاری از کارشناسان امنیتی هشدار می‌دهند که در همه شرایط، حتی با وجود روندهای جدید، کاربران همچنان باید محتاط باشند و داده‌های شخصی، به ویژه داده‌های چهره خود و عزیزانشان را برای چند دقیقه سرگرمی در شبکه‌های اجتماعی معامله نکنند.

لینک منبع