Cuando la IA decide lo que puedes decir en línea

AI - Ảnh 1. — La inteligencia artificial está analizando y eliminando comentarios en las redes sociales.

Cuando los usuarios dejan un comentario en un vídeo de YouTube, una publicación de Facebook o un artículo en línea, no tienen la certeza de que su comentario llegue al público objetivo. Esto no se debe a que esté mal escrito o sea ilegal, sino simplemente a que un algoritmo de filtrado automático lo bloquea.

Las plataformas tecnológicas actuales emplean sistemas de filtrado de comentarios para eliminar el discurso de odio, la pornografía, la violencia y el lenguaje divisivo. El objetivo es "mantener la comunidad segura", pero ¿podrían estas herramientas estar eliminando comentarios hasta el punto de volverse insensibles?

Cuando la IA se convierte en el guardián del habla

A diferencia de los inicios de internet, donde los comentarios sin editar estaban disponibles libremente, la mayoría de las plataformas importantes ahora delegan el filtrado de contenido a la inteligencia artificial. Gracias al aprendizaje automático, estos sistemas pueden analizar millones de líneas de texto diariamente, evaluando el lenguaje, el tono e incluso el contexto para decidir si conservar o eliminar el contenido.

Sin embargo, este sistema no siempre es preciso.

La Sra. Ngoc Vy (Ciudad Ho Chi Minh) comentó: "Mi comentario y opinión sobre un producto fue ocultado sin motivo aparente. No contenía insultos ni spam, solo un comentario, pero desapareció a los pocos segundos".

Muchos contenidos se eliminan simplemente porque utilizan palabras delicadas en un contexto perfectamente normal. Frases como "pobreza", "hambre", "política" o "sistema" a veces se malinterpretan como negativas si el sistema no comprende el significado de la frase.

¿Filtrar o suprimir la disidencia?

Según una advertencia de la organización alemana AlgorithmWatch, los sistemas de censura automatizados pueden silenciar inadvertidamente las voces disidentes, especialmente las de grupos marginados o minoritarios, porque estos sistemas aprenden del comportamiento de la mayoría, que carece de suficiente diversidad cultural e ideológica.

En Vietnam, el estricto control del contenido por parte de las plataformas de redes sociales es cada vez más común, especialmente en los sitios de noticias altamente interactivos. Los comentarios sobre eventos actuales y temas sociales suelen estar restringidos o requieren "aprobación previa", lo que lleva a muchos a preguntarse: ¿Acaso existe todavía la libertad de expresión en internet?

Lo preocupante es que los usuarios rara vez saben por qué se ocultan o eliminan los comentarios. No hay notificaciones ni mecanismos de retroalimentación transparentes. Todo sucede en silencio, y en un mundo algorítmico, el silencio puede ser la forma más sutil de censura.

Mantengamos internet limpio, pero no blanqueemos el diálogo.

Un espacio en línea limpio no debe ser sinónimo de un espacio "estéril". La sociedad es un conjunto de opiniones diversas, críticas constructivas y debates. Necesitamos algoritmos para filtrar los comentarios dañinos, pero también debemos proteger el derecho a expresar opiniones diferentes, el derecho a cuestionar y el derecho a manifestar inquietudes.

Cuando cada comentario tiene que pasar por un "proceso de filtrado", debemos preguntarnos: ¿La tecnología protege a la comunidad o elige selectivamente lo que la comunidad tiene permitido escuchar?

La tecnología no puede reemplazar a los humanos en la toma de decisiones basadas en valores. Y en la era de la IA, la transparencia y el derecho a recibir retroalimentación son los "algoritmos" más justos para todo el sistema.

La tecnología debería ayudar a las personas a expresar sus opiniones, no decidir por ellas lo que tienen que decir.

CANCIÓN TRI

Fuente: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm