כאשר בינה מלאכותית מחליטה מה אתם יכולים לומר באינטרנט

בעולם הדיגיטלי, שבו לכל אחד יכול להיות קול, האם אלגוריתמים לסינון תגובות עוזרים להגן על הקהילה, או שמא הם חונקים בשוגג את קולם של המשתמשים עצמם?

בינה מלאכותית סורקת ומוחקת תגובות ברשתות החברתיות.

כאשר משתמשים משאירים תגובה מתחת לסרטון יוטיוב, פוסט בפייסבוק או מאמר מקוון, הם לא בטוחים אם התגובה תגיע לקהל היעד. הסיבה לכך אינה שגיאת כתיב או שהיא לא חוקית; אלא פשוט משום שהיא חסומה על ידי אלגוריתם סינון אוטומטי.

פלטפורמות הטכנולוגיה הנוכחיות משתמשות במערכות סינון תגובות כדי להסיר דברי שטנה, פורנוגרפיה, אלימות ושפה מפלגת. המטרה היא "לשמור על בטיחות הקהילה", אך האם כלים אלה יכולים לנקות תגובות עד כדי היעדר רגישות?

כאשר בינה מלאכותית הופכת לשומר הסף של הדיבור

בניגוד לימי האינטרנט הראשונים, בהם תגובות "גולמיות" היו זמינות בחינם, רוב הפלטפורמות הגדולות כיום מעבירות את סינון התוכן לבינה מלאכותית. הודות ללמידת מכונה, מערכות אלו יכולות לסרוק מיליוני שורות טקסט מדי יום, להעריך שפה, טון ואפילו הקשר כדי להחליט אם לשמור או למחוק תוכן.

עם זאת, מערכת זו אינה תמיד מדויקת.

גב' נגוק וי (הו צ'י מין סיטי) שיתפה: "התגובה והמשוב שלי על מוצר הוסתרו ללא סיבה נראית לעין. לא היו קללות, לא ספאם, רק תגובה, אבל היא נעלמה לאחר מספר שניות."

פריטי תוכן רבים מוסרים פשוט משום שהם משתמשים במילים רגישות בהקשר רגיל לחלוטין. ביטויים כמו "עוני", "רעב", "מדיניות" או "מערכת" מתפרשים לעיתים באופן שגוי כשלילי אם המכונה אינה מבינה את משמעות המשפט.

לסנן או לדכא התנגדות?

על פי אזהרה של הארגון הגרמני AlgorithmWatch, מערכות צנזורה אוטומטיות עלולות להשתיק בשוגג קולות מתנגדים, במיוחד מקבוצות שוליים או מיעוט, משום שמערכות אלו לומדות מהתנהגות הרוב, שחסר לו גיוון תרבותי ואידיאולוגי מספיק.

בווייטנאם, פיקוח קפדני על תוכן על ידי פלטפורמות מדיה חברתית הופך נפוץ יותר ויותר, במיוחד באתרי חדשות אינטראקטיביים ביותר. תגובות על אירועים אקטואליים ונושאים חברתיים מוגבלות לעתים קרובות או דורשות "אישור מראש", מה שמוביל רבים לתהות: האם חופש הביטוי עדיין קיים באינטרנט?

ההיבט המדאיג הוא שמשתמשים כמעט ולא יודעים מדוע תגובות מוסתרות או נמחקות. אין התראות, אין מנגנוני משוב שקופים. הכל קורה בשקט, ובעולם אלגוריתמי, שתיקה יכולה להיות הצורה העדינה ביותר של צנזורה.

שמרו על אינטרנט נקי, אבל אל תטשטשו את הדיאלוג.

מרחב מקוון נקי לא צריך להיות שם נרדף למרחב "סטרילי". החברה היא אוסף של דעות שונות, ביקורת בונה ודיון. אנחנו צריכים אלגוריתמים כדי לסנן הערות מזיקות, אבל אנחנו צריכים גם להגן על הזכות לדבר בצורה שונה, על הזכות לשאול שאלות ועל הזכות להעלות חששות.

כאשר כל תגובה צריכה לעבור "תהליך סינון", עלינו לשאול את עצמנו: האם הטכנולוגיה מגינה על הקהילה, או שמא היא בוחרת באופן סלקטיבי את מה שהקהילה רשאית לשמוע?

טכנולוגיה לא יכולה להחליף בני אדם בקבלת החלטות מבוססות ערך. ובעידן הבינה המלאכותית, שקיפות והזכות למשוב הם ה"אלגוריתמים" ההוגנים ביותר עבור המערכת כולה.

טכנולוגיה צריכה לעזור לאנשים להביע את דעתם, לא להחליט עבורם מה לומר.

שיר טרי

מקור: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm