כאשר בינה מלאכותית מחליטה מה אתם אומרים באינטרנט

בעולם דיגיטלי שבו לכולם יש קול, האם אלגוריתמים לסינון תגובות עוזרים להגן על קהילות, או שמא הם חונקים, שלא במתכוון, את קולם של המשתמשים?

בינה מלאכותית סורקת ומוחקת תגובות ברשתות החברתיות

כשאנשים משאירים תגובה לסרטון יוטיוב, פוסט בפייסבוק או מאמר מקוון, אין להם מושג אם היא תגיע למישהו. זה לא בגלל שגיאת כתיב, וגם לא בגלל שהיא לא חוקית, היא פשוט חסומה על ידי אלגוריתם סינון אוטומטי.

פלטפורמות טכנולוגיה משתמשות כיום במערכות סינון תגובות כדי להסיר דברי שטנה, פורנוגרפיה, אלימות ודיבור מפלג. המטרה היא "לשמור על בטיחות הקהילות", אך האם כלים אלה כה מחטאים עד שהם הופכים לחסרי רגישות?

כאשר בינה מלאכותית הופכת לשומר הסף של הדיבור

בניגוד לימי האינטרנט הראשונים, בהם הורשו תגובות "גולמיות" להופיע בחופשיות, רוב הפלטפורמות הגדולות כיום מעבירות את האחריות על סינון תוכן לבינה מלאכותית. הודות ללמידת מכונה, מערכות יכולות לסרוק מיליוני שורות טקסט מדי יום, להעריך שפה, טון ואפילו "הקשר" כדי להחליט אם לשמור או למחוק.

עם זאת, מערכת זו אינה תמיד מדויקת.

גב' נגוק וי (HCMC) שיתפה: "התגובה שלי על מוצר הוסתרה מסיבה לא ידועה. בלי קללות, בלי ספאם, רק תגובה שנעלמה לאחר מספר שניות."

פריטי תוכן רבים מוסרים פשוט משום שהם משתמשים במילים רגישות בהקשר רגיל לחלוטין. ביטויים כמו "עוני", "רעב", "מדיניות" או "מערכת" נתפסים לעיתים בטעות כשליליים אם המכונה אינה יכולה "לקרוא" את רוח המשפט.

לסנן או לבטל ביקורת?

על פי אזהרה של הארגון הגרמני AlgorithmWatch, מערכות צנזורה אוטומטיות עלולות לבטל, שלא במתכוון, קולות מתנגדים, במיוחד מקבוצות מוחלשות או מיעוט, משום שמערכות אלו לומדות מהתנהגות הרוב, שאינו מגוון מספיק מבחינת תרבות ונקודות מבט.

בווייטנאם, פיקוח קפדני על תוכן על ידי פלטפורמות מדיה חברתית הופך נפוץ יותר, במיוחד באתרי חדשות אינטראקטיביים ביותר. תגובות בנושאים אקטואליים וחברתיים לעיתים קרובות אסורות להצגה, או חייבות להיות "מאושרות מראש", מה שגורם לרבים לשאול: האם עדיין יש חופש ביטוי במרחב הקיברנטי?

הדבר המדאיג הוא שמשתמשים כמעט ולא יודעים מדוע תגובות מוסתרות או נמחקות. אין התראות, אין מנגנוני משוב שקופים. הכל קורה בשקט, ובעולם המנוהל על ידי אלגוריתמים, שתיקה יכולה להיות הצורה העדינה ביותר של צנזורה.

שמרו על אינטרנט נקי אבל אל תטייחו את השיחה

מרחב סייבר נקי לא צריך להיות סטרילי. חברה היא מקום שבו דעות שונות מובעות, בונות, ביקורתיות ומתווכחות. אנחנו צריכים אלגוריתמים כדי לסנן דיבור רעיל, אבל אנחנו גם צריכים להגן על הזכות לחלוק על הדברים, על הזכות לשאול שאלות, על הזכות להעלות אי-נוחות.

כאשר כל תגובה צריכה להיות "מתואמת", עלינו לשאול: האם הטכנולוגיה מגינה על הקהילה או מסננת את מה שהקהילה רשאית לשמוע?

טכנולוגיה לא יכולה להחליף בני אדם בקבלת החלטות חשובות. ובעידן הבינה המלאכותית, שקיפות והזכות למשוב הם ה"אלגוריתמים" ההוגנים ביותר עבור המערכת כולה.

טכנולוגיה צריכה לעזור לאנשים לדבר, לא להחליט מה לומר בשמם.

אינטליגנציה יחידה

מקור: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm