X قابلیتی را اضافه می‌کند که به کاربران اجازه می‌دهد AI Grok را از ویرایش عکس‌ها منع کنند.

ویژگی جدید X با هدف افزایش کنترل کاربر بر محتوای تصویر، در بحبوحه نگرانی‌ها در مورد سوءاستفاده از ابزار هوش مصنوعی Grok ارائه شده است.

شبکه اجتماعی X گزینه‌ای را اضافه کرده است که به کاربران اجازه می‌دهد از ویرایش تصاویر آپلود شده در پلتفرم توسط ربات چت هوش مصنوعی Grok جلوگیری کنند، هدف از این کار کاهش خطر سوءاستفاده پس از مجموعه‌ای از حوادث مربوط به ایجاد تصاویر حساس ناخواسته است.

دکمه‌ی «مسدود کردن ویرایش‌های گروک» در پلتفرم رسانه‌ی اجتماعی ایکس. (عکس: رویترز)

یک ویژگی جدید در فرآیند آپلود عکس در برنامه‌های X برای iOS ظاهر شده است. پس از انتخاب تصویر برای آپلود، کاربران روی نماد مداد ضربه می‌زنند تا وارد حالت ویرایش شوند، سپس روی نماد پرچم ضربه می‌زنند تا تنظیمات محتوا باز شود.

در اینجا، یک دکمه‌ی تغییر وضعیت با عنوان «بلوک ویرایش‌های گروک» ظاهر می‌شود که قابلیتی دارد که به شما امکان می‌دهد از دخالت گروک در ویرایش تصویر جلوگیری کنید.

با این حال، این ویژگی فقط برای پست‌های تکی اعمال می‌شود، نه به عنوان یک تنظیم پیش‌فرض برای کل حساب، و در حال حاضر برای نسخه وب X یا نسخه‌های قدیمی‌تر این شبکه اجتماعی در دسترس نیست.

عرضه قابلیت مسدودسازی توسط X در حالی صورت می‌گیرد که Grok با انتقادات شدید بین‌المللی روبرو است. از ابتدای سال ۲۰۲۶، ابزار ویرایش عکس Grok به ایجاد غیرقانونی تصاویر متعدد وسوسه‌انگیز یا عکس‌های برهنه از افراد واقعی متهم شده است.

گزارش‌های آماری نشان می‌دهد که تنها در ۱۱ روز اول سال، گروک تقریباً ۳ میلیون تصویر حساس ایجاد کرده است که بیش از ۲۳۰۰۰ مورد آن مربوط به کودکان است.

این پدیده به سرعت به یک روند تبدیل شد و بسیاری از کاربران X، از افراد مشهور گرفته تا مردم عادی را به شدت تحت تأثیر قرار داد.

نهادهای نظارتی در بسیاری از کشورها اقدامات جدی انجام داده‌اند. اتحادیه اروپا (EU) دو تحقیق جداگانه در مورد پتانسیل Grok برای ایجاد تصاویر غیرقانونی آغاز کرده است، در حالی که دو سناتور آمریکایی از اپل و گوگل خواستند که برنامه X را به دلیل نقض مقررات مربوط به محتوای مستهجن ناخواسته از فروشگاه‌های برنامه خود حذف کنند.

تحت این فشار، X اعلام کرد که اقدامات فنی را برای محدود کردن Grok از ایجاد تصاویر افراد واقعی با لباس‌های بدن‌نما مانند بیکینی اجرا خواهد کرد، در حالی که این ویژگی را به حساب‌های پولی محدود کرده و تهدید به مسدود کردن حساب‌هایی که قوانین را نقض می‌کنند، کرده است. با این حال، بسیاری از کاربران هنوز راه‌هایی برای دور زدن محدودیت‌ها پیدا کرده‌اند، به این معنی که مشکل هنوز به طور کامل حل نشده است.

این مسدودکننده جدید به عنوان یک گام اضافی از سوی X برای افزایش کنترل کاربر در نظر گرفته می‌شود. با این حال، طبق آزمایش‌های دنیای واقعی از منابع فناوری، این ویژگی فقط از تگ کردن Grok در نظرات برای درخواست ویرایش جلوگیری می‌کند.

دیگران هنوز هم می‌توانند تصویر را در دستگاه خود ذخیره کنند، دوباره آن را دانلود کنند و سپس از طریق برنامه جداگانه Grok برای ویرایش آن بدون هیچ مشکلی استفاده کنند.

بنابراین، بسیاری از کارشناسان این را تنها یک راه حل موقت می‌دانند، نه یک اقدام جامع مانند تنظیم تنظیمات پیش‌فرض برای همه حساب‌ها یا برچسب‌گذاری واضح حساب‌ها برای جلوگیری از ویرایش.

ویت آنه

منبع: https://vtcnews.vn/x-them-tinh-nang-cho-phep-nguoi-dung-chan-ai-grok-sua-anh-ar1007002.html