Un gruppo di ricercatori tedeschi ha recentemente lanciato un allarme sul potenziale di distorsione derivante dall'utilizzo di chatbot basati sull'intelligenza artificiale per sintetizzare i contenuti scientifici. Dopo aver analizzato 4.900 abstract scientifici redatti da esseri umani, il gruppo ha utilizzato diversi modelli di intelligenza artificiale per confrontare il modo in cui questi sistemi elaboravano le informazioni. I risultati hanno mostrato che la maggior parte dei chatbot commetteva l'errore di generalizzare eccessivamente, anche quando sollecitati a riassumere in modo accurato.
ChatGPT e DeepSeek distorcono i dati scientifici.
È stato riscontrato che modelli di intelligenza artificiale come ChatGPT e DeepSeek sono in grado di distorcere i contenuti scientifici durante la loro sintesi, soprattutto in ambito medico.
Báo Khoa học và Đời sống•08/07/2025
L'intelligenza artificiale può facilmente distorcere il contenuto quando riassume la ricerca scientifica.
Negli esperimenti, i modelli di intelligenza artificiale hanno commesso cinque volte più errori rispetto ai ricercatori umani quando non erano guidati. Anche con requisiti chiari di accuratezza, il tasso di errore era comunque il doppio rispetto a una sintesi standard. Un membro del team di ricerca ha commentato: "La generalizzazione può sembrare innocua a volte, ma in realtà altera la natura della ricerca originale. Si tratta di un pregiudizio sistemico".
In particolare, le versioni più recenti dei chatbot non solo non riescono ad affrontare il problema, ma lo aggravano. Grazie alla loro fluidità e al loro stile accattivante, i riassunti generati dall'IA danno facilmente un'impressione di affidabilità, mentre il contenuto effettivo risulta distorto. In un caso, DeepSeek ha modificato la frase "sicuro e implementabile con successo" in "trattamento sicuro ed efficace", un'interpretazione che si discostava dalle conclusioni originali dello studio.
Potrebbe interessarti
Hai Phong istituisce una task force per attrarre investimenti nel settore dell'alta tecnologia.Il governo della città di Hai Phong ha appena deciso di istituire una task force per attrarre investimenti ad alta tecnologia e innovativi al fine di migliorare il contesto imprenditoriale e promuovere uno sviluppo economico sostenibile.
La provincia di Khanh Hoa adotta misure per proteggere il suo "tesoro" di nidi di rondini.TP - Grazie alle direttive decisive del Governo, alle soluzioni coordinate a livello locale e al coinvolgimento delle imprese e della comunità, Khanh Hoa sta attuando una campagna completa per proteggere la popolazione di rondini dell'isola dalla minaccia della caccia illegale.
Dien Bien: Attuazione pilota di quattro procedure amministrative nell'ambito del meccanismo del "canale verde" a livello comunale.Al fine di promuovere l'efficace attuazione del decentramento e della delega di autorità nella gestione delle procedure amministrative, il Comitato popolare della provincia di Dien Bien ha deciso di consentire ai comuni di sperimentare l'implementazione di quattro procedure amministrative attraverso il meccanismo del "canale verde".
In un altro esempio, il modello Llama ha applicato raccomandazioni per la somministrazione di farmaci per il diabete a soggetti giovani senza specificare dosaggio, frequenza o effetti collaterali. Se il lettore, medico o operatore sanitario , non verifica le informazioni confrontandole con lo studio originale, questo tipo di riassunti potrebbe rappresentare un pericolo diretto per i pazienti.
Gli esperti ritengono che questo fenomeno derivi dal modo in cui vengono addestrati i modelli di intelligenza artificiale. Molti chatbot attuali vengono addestrati utilizzando dati secondari, come notizie scientifiche prodotte in massa, che sono già state semplificate. Man mano che l'IA continua a riassumere questi contenuti semplificati, aumenta il rischio di distorsione.
Gli esperti di intelligenza artificiale nel campo della salute mentale sostengono che sia necessario stabilire al più presto delle barriere tecniche allo sviluppo e all'utilizzo dell'IA.
Gli utenti devono fare attenzione, poiché i chatbot possono facilmente distorcere i contenuti.
Poiché gli utenti si affidano sempre più ai chatbot basati sull'intelligenza artificiale per apprendere informazioni scientifiche, piccole imprecisioni nell'interpretazione possono accumularsi e diffondersi rapidamente, portando a una diffusa errata interpretazione. In un momento in cui la fiducia nella scienza è in calo, questo rischio è particolarmente preoccupante e richiede la dovuta attenzione.
Il Ministero degli Affari Esteri ha ricevuto una copia delle credenziali dell'Ambasciatore degli Stati Uniti in Vietnam.Nel pomeriggio del 2 luglio, presso la sede del Ministero degli Affari Esteri, il signor Le Cong Dung, direttore del Dipartimento del Protocollo di Stato e dell'Interpretariato per gli Affari Esteri, ha ricevuto una copia delle lettere credenziali dalla signora Jennifer Wicks, ambasciatrice degli Stati Uniti d'America in Vietnam.
L'ambasciatore Nguyen Quoc Dung visita e svolge attività lavorative in Minnesota, Stati Uniti.Dal 28 al 30 giugno, l'ambasciatore vietnamita negli Stati Uniti, Nguyen Quoc Dung, ha visitato il Minnesota e vi ha svolto delle attività.
Il Vietnam incoraggia le imprese statunitensi ad ampliare gli investimenti nel settore dell'alta tecnologia.La mattina del 26 giugno, presso la sede del governo, il vice primo ministro Ho Quoc Dung ha ricevuto il signor Jeff Place, direttore della catena di approvvigionamento di Coherent Group (USA). Durante l'incontro, il vice primo ministro ha ribadito che il Vietnam incoraggia le imprese statunitensi ad espandere gli investimenti, in particolare nei settori dell'alta tecnologia, dell'innovazione e dei semiconduttori.
L'integrazione dell'intelligenza artificiale nella ricerca e nella divulgazione della conoscenza è una tendenza irreversibile. Tuttavia, gli esperti affermano che la tecnologia non può sostituire il ruolo degli esseri umani nella comprensione e nella verifica dei contenuti scientifici. Quando si utilizzano i chatbot in settori ad alto rischio come quello sanitario, la priorità deve essere data all'accuratezza, piuttosto che concentrarsi esclusivamente sulla fluidità del linguaggio o sulla velocità di risposta.
Fonte: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
![[Immagine] Vista generale del cantiere per la stazione sotterranea della linea 5 della metropolitana all'incrocio con la tangenziale di Hanoi n. 1.](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2026/07/03/1783065595682_ndo_br_z7974930852369-100ca093c306e72675f1d3700966a86b-jpg.webp)
