Quando l'intelligenza artificiale decide cosa puoi dire online

AI - Ảnh 1. — L'intelligenza artificiale analizza ed elimina i commenti sui social media.

Quando gli utenti lasciano un commento sotto un video di YouTube, un post di Facebook o un articolo online, non hanno la certezza che quel commento raggiunga il pubblico di destinazione. Questo non accade perché contiene errori di ortografia o è illegale; semplicemente perché viene bloccato da un algoritmo di filtraggio automatico.

Le attuali piattaforme tecnologiche utilizzano sistemi di filtraggio dei commenti per rimuovere discorsi d'odio, pornografia, violenza e linguaggio divisivo. L'obiettivo è "proteggere la comunità", ma questi strumenti potrebbero ripulire i commenti al punto da renderli insensibili?

Quando l'intelligenza artificiale diventa il custode del linguaggio

A differenza degli albori di Internet, quando i commenti "grezzi" erano liberamente disponibili, la maggior parte delle principali piattaforme ora delega il filtraggio dei contenuti all'intelligenza artificiale. Grazie all'apprendimento automatico, questi sistemi possono analizzare milioni di righe di testo al giorno, valutando linguaggio, tono e persino contesto per decidere se mantenere o eliminare un contenuto.

Tuttavia, questo sistema non è sempre preciso.

La signora Ngoc Vy (Ho Chi Minh City) ha raccontato: "Il mio commento e il mio feedback su un prodotto sono stati nascosti senza alcuna ragione apparente. Non c'erano parolacce, né spam, solo un commento, ma è sparito dopo pochi secondi."

Molti contenuti vengono rimossi semplicemente perché utilizzano parole sensibili in un contesto perfettamente normale. Frasi come "povertà", "fame", "politica" o "sistema" vengono talvolta interpretate erroneamente in senso negativo se il sistema non ne comprende il significato.

Filtrare o sopprimere il dissenso?

Secondo un avvertimento dell'organizzazione tedesca AlgorithmWatch, i sistemi di censura automatizzata possono inavvertitamente mettere a tacere le voci dissenzienti, soprattutto quelle provenienti da gruppi marginalizzati o minoritari, perché questi sistemi apprendono dal comportamento della maggioranza, che manca di sufficiente diversità culturale e ideologica.

In Vietnam, il rigido controllo dei contenuti da parte delle piattaforme di social media sta diventando sempre più comune, soprattutto sui siti di notizie altamente interattivi. I commenti su eventi di attualità e questioni sociali sono spesso limitati o richiedono un'approvazione preventiva, portando molti a chiedersi: la libertà di parola esiste ancora online?

L'aspetto preoccupante è che gli utenti raramente sanno perché i commenti vengono nascosti o cancellati. Non ci sono notifiche, né meccanismi di feedback trasparenti. Tutto avviene in silenzio e, in un mondo algoritmico, il silenzio può essere la forma più subdola di censura.

Manteniamo pulito internet, ma non edulcoriamo il dialogo.

Uno spazio online pulito non dovrebbe essere sinonimo di uno spazio "sterile". La società è un insieme di opinioni diverse, critiche costruttive e dibattiti. Abbiamo bisogno di algoritmi per filtrare i commenti dannosi, ma dobbiamo anche proteggere il diritto di esprimersi diversamente, il diritto di porre domande e il diritto di sollevare preoccupazioni.

Quando ogni commento deve passare attraverso un "processo di filtraggio", dobbiamo chiederci: la tecnologia protegge la comunità o seleziona ciò che la comunità è autorizzata a leggere?

La tecnologia non può sostituire gli esseri umani nel prendere decisioni basate sui valori. E nell'era dell'intelligenza artificiale, la trasparenza e il diritto al feedback sono gli "algoritmi" più equi per l'intero sistema.

La tecnologia dovrebbe aiutare le persone a esprimere le proprie opinioni, non decidere per loro cosa dire.

CANZONE TRI

Fonte: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm