وقتی هوش مصنوعی تصمیم می‌گیرد شما آنلاین چه بگویید

در دنیای دیجیتال که هر کسی حق اظهار نظر دارد، آیا الگوریتم‌های فیلتر کردن نظرات به محافظت از جوامع کمک می‌کنند یا ناخواسته صدای کاربران را خفه می‌کنند؟

هوش مصنوعی در حال اسکن و حذف نظرات در رسانه‌های اجتماعی است

وقتی مردم در مورد یک ویدیوی یوتیوب، یک پست فیسبوک یا یک مقاله آنلاین نظر می‌دهند، هیچ ایده‌ای ندارند که آیا این نظر به دست کسی خواهد رسید یا خیر. این نه به این دلیل است که غلط املایی دارد و نه به این دلیل که غیرقانونی است، بلکه به سادگی توسط یک الگوریتم فیلترینگ خودکار مسدود می‌شود.

پلتفرم‌های فناوری اکنون از سیستم‌های فیلترینگ نظرات برای حذف سخنان نفرت‌پراکن، پورنوگرافی، خشونت و سخنان تفرقه‌انگیز استفاده می‌کنند. هدف «حفظ امنیت جوامع» است، اما آیا این ابزارها آنقدر بهداشتی هستند که حساسیت‌زدایی می‌شوند؟

وقتی هوش مصنوعی دروازه‌بان گفتار می‌شود

برخلاف روزهای اولیه اینترنت، که نظرات «خام» آزادانه منتشر می‌شدند، اکنون اکثر پلتفرم‌های بزرگ مسئولیت فیلتر کردن محتوا را به هوش مصنوعی واگذار می‌کنند. به لطف یادگیری ماشینی، سیستم‌ها می‌توانند روزانه میلیون‌ها خط متن را اسکن کنند، زبان، لحن و حتی «زمینه» را ارزیابی کنند تا تصمیم بگیرند که آیا آن را نگه دارند یا حذف کنند.

با این حال، این سیستم همیشه دقیق نیست.

خانم نگوک وی (HCMC) به اشتراک گذاشت: «نظر من در مورد یک محصول به دلایل نامعلومی پنهان شد. نه فحشی، نه هرزنامه‌ای، فقط نظری بود که پس از چند ثانیه ناپدید شد.»

بسیاری از محتواها صرفاً به این دلیل حذف می‌شوند که از کلمات حساس در یک زمینه کاملاً عادی استفاده می‌کنند. عباراتی مانند «فقر»، «گرسنگی»، «سیاست» یا «سیستم» اگر دستگاه نتواند روح جمله را «بخواند» گاهی اوقات به عنوان بار منفی اشتباه گرفته می‌شوند.

فیلتر کردن یا حذف انتقاد؟

طبق هشدار سازمان آلمانی AlgorithmWatch، سیستم‌های سانسور خودکار می‌توانند ناخواسته صداهای مخالف، به ویژه از گروه‌های محروم یا اقلیت، را حذف کنند، زیرا این سیستم‌ها از رفتار اکثریت که از نظر فرهنگ و دیدگاه‌ها به اندازه کافی متنوع نیست، درس می‌گیرند.

در ویتنام، کنترل شدید محتوا توسط پلتفرم‌های رسانه‌های اجتماعی، به ویژه در سایت‌های خبری بسیار تعاملی، رایج‌تر می‌شود. نمایش نظرات در مورد مسائل جاری و اجتماعی اغلب محدود می‌شود یا باید "از قبل تأیید شده" باشد، که باعث می‌شود بسیاری از مردم بپرسند: آیا هنوز آزادی بیان در فضای مجازی وجود دارد؟

نکته نگران‌کننده این است که کاربران به ندرت می‌دانند چرا نظرات پنهان یا حذف می‌شوند. هیچ اعلانی وجود ندارد، هیچ مکانیسم بازخورد شفافی وجود ندارد. همه چیز در سکوت اتفاق می‌افتد و در جهانی که توسط الگوریتم‌ها اداره می‌شود، سکوت می‌تواند ظریف‌ترین شکل سانسور باشد.

اینترنت را تمیز نگه دارید اما مکالمات را ماست‌مالی نکنید

فضای مجازی پاک نباید به معنای استریل باشد. جامعه جایی است که نظرات مختلف بیان، سازنده، انتقادی و مورد بحث قرار می‌گیرند. ما به الگوریتم‌هایی برای فیلتر کردن سخنان سمی نیاز داریم، اما همچنین باید از حق متفاوت بودن، حق پرسشگری و حق طرح ناراحتی محافظت کنیم.

وقتی قرار است هر نظری «تعدیل» شود، باید بپرسیم: آیا فناوری از جامعه محافظت می‌کند یا آنچه را که جامعه اجازه شنیدنش را دارد، فیلتر می‌کند؟

فناوری نمی‌تواند جایگزین انسان‌ها در تصمیم‌گیری‌های ارزشمند شود. و در عصر هوش مصنوعی، شفافیت و حق دریافت بازخورد، منصفانه‌ترین «الگوریتم‌ها» برای کل سیستم هستند.

فناوری باید به مردم کمک کند تا آزادانه صحبت کنند، نه اینکه تصمیم بگیرد به جای آنها چه بگوید.

هوش واحد

منبع: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm