Gli esperti avvertono che i chatbot basati sull'intelligenza artificiale possono sbagliare fino al 45% delle volte.

Gli esperti avvertono che i contenuti generati dall'intelligenza artificiale, come ChatGPT, possono diffondere disinformazione fino al 45% delle volte, e gli utenti dovrebbero prestare attenzione quando vi fanno riferimento.

Kevin Veale, docente senior di studi sui media presso la School of Humanities, Media and Creativity della Massey University (Nuova Zelanda), spiega che l'intelligenza artificiale generativa (IA) viene utilizzata per generare testi, immagini e altre forme di dati a partire dalle informazioni grezze ricevute.

Tuttavia, la generazione automatica di IA può diventare uno strumento per creare disinformazione più velocemente di quanto gli esseri umani possano verificarla, con conseguenze concrete nel mondo reale se gli utenti ripongono in essa una fiducia assoluta. I modelli linguistici su larga scala, come ChatGPT o Claude, si basano sulla probabilità che parole adiacenti formino frasi plausibili, piuttosto che garantire l'accuratezza.

Secondo lo studio, la disinformazione generata dall'intelligenza artificiale rappresenta fino al 45% delle notizie, indipendentemente dalla lingua o dalla posizione geografica. OpenAI riconosce inoltre che non esiste un modo per impedire completamente che la disinformazione venga spacciata per "verità".

I ricercatori paragonano questi modelli agli studenti che si trovano di fronte a una domanda difficile e che, in caso di incertezza, preferiscono azzardare un'ipotesi piuttosto che ammettere di non saperlo.

Il signor Veale consiglia agli utenti di consultare preventivamente fonti affidabili o di utilizzare libri e documenti tradizionali come riferimento. Gli esperti sottolineano la necessità di formazione e di definizione di regole per un uso prudente dell'IA, soprattutto in considerazione del progressivo coinvolgimento dell'IA nel lavoro di governi, agenzie amministrative e organizzazioni complesse.

Torniamo all'argomento

VNA

Fonte: https://tuoitre.vn/chatbot-ai-co-the-sai-toi-45-chuyen-gia-canh-bao-20260323211414635.htm