L'intelligenza artificiale si sta gradualmente trasformando in un "medico online".

Il rapido sviluppo di chatbot basati sull'intelligenza artificiale come ChatGPT, Gemini e Claude sta cambiando il modo in cui le persone accedono alle informazioni mediche . Con poche domande, gli utenti possono ricevere risposte quasi istantanee su sintomi, farmaci, malattie o salute mentale, senza bisogno di fissare appuntamenti o attendere in ospedale.

Un sondaggio condotto dal King's College di Londra su oltre 2.000 persone nel Regno Unito ha rilevato che più del 15% ha utilizzato chatbot basati sull'intelligenza artificiale per chiedere informazioni su problemi di salute anziché consultare un medico di base o il servizio sanitario pubblico NHS.

Oltre ai problemi fisici, l'intelligenza artificiale viene utilizzata da molti anche per supportare la salute mentale. Circa il 10% degli intervistati ha dichiarato di utilizzare i chatbot per cercare supporto psicologico anziché rivolgersi a professionisti qualificati. Gli esperti considerano questo un segnale preoccupante, poiché l'IA sta diventando sempre più il "primo punto di contatto" per molti problemi di salute.

Con poche semplici domande, gli utenti possono ricevere risposte quasi istantanee su sintomi, farmaci, malattie o salute mentale da chatbot basati sull'intelligenza artificiale. (Immagine: nationalhealthexecutive.com)

Secondo lo studio, la comodità è la ragione più comune per cui le persone si rivolgono all'intelligenza artificiale. Quasi la metà dei partecipanti ha affermato che i chatbot li aiutano ad accedere alle informazioni in modo più rapido e semplice. Molti altri utilizzano l'IA per curiosità verso le nuove tecnologie o perché non sono sicuri che la loro condizione sia abbastanza grave da richiedere il consulto di un medico.

Il professor Graham Lord, autore principale dello studio, ha osservato che la proliferazione dei chatbot sta creando un "sistema sanitario basato sull'intelligenza artificiale che non è regolamentato in parallelo con il sistema sanitario pubblico". Secondo lui, l'IA sta rapidamente cambiando il modo in cui le persone accedono all'assistenza sanitaria, ma ciò comporta importanti problemi relativi ad affidabilità, sicurezza e responsabilità.

Questa tendenza non si limita al Regno Unito; è in rapida crescita anche in molti altri Paesi. Negli Stati Uniti, un sondaggio condotto dal West Health-Gallup Center sull'assistenza sanitaria, che ha coinvolto circa 5.600 adulti, ha rivelato che una persona su quattro utilizza i chatbot per cercare informazioni o consigli sulla salute. Circa il 14% ha dichiarato di non essersi rivolto a un medico dopo aver ricevuto informazioni dall'intelligenza artificiale.

Rischi imprevisti

Insieme alla loro crescente popolarità, si moltiplicano gli avvertimenti sui rischi imprevedibili di consigli errati o pericolosi forniti dai chatbot basati sull'intelligenza artificiale. Molti studi recenti dimostrano che i chatbot basati sull'IA possono effettivamente fornire diagnosi imprecise o consigli potenzialmente dannosi agli utenti, soprattutto in situazioni mediche complesse o in assenza di dati sufficienti.

In uno studio pubblicato su JAMA Network Open da un team di autori del sistema sanitario Mass General Brigham, gli scienziati hanno chiesto a 21 modelli di intelligenza artificiale di "svolgere il ruolo di medici" per gestire situazioni mediche ipotetiche. I risultati hanno mostrato che i chatbot spesso giungevano a conclusioni affrettate invece di mantenere il dubbio e continuare ad analizzare come i veri medici. Lo studio ha rivelato che questi chatbot hanno diagnosticato erroneamente l'80% dei casi.

Nel frattempo, i risultati di un altro studio pubblicato su BMJ Open, che ha testato cinque chatbot basati sull'intelligenza artificiale con 250 domande relative a cancro, vaccini, nutrizione e altri argomenti sanitari suscettibili di disinformazione, hanno mostrato che il tasso di risposte corrette era di poco superiore al 50%, mentre circa il 20% delle risposte errate è stato considerato potenzialmente dannoso se seguito. Nicholas Tiller, coautore dello studio, ha affermato che l'aspetto più preoccupante è che le IA spesso rispondono con un alto grado di sicurezza anche quando sbagliano. "Se qualcuno segue quel consiglio, c'è un'alta probabilità che ne subisca un danno", ha detto.

Il problema più preoccupante è che molte persone stanno iniziando a considerare i chatbot come veri e propri medici. Secondo un sondaggio del King's College di Londra, circa il 20% delle persone che hanno utilizzato l'intelligenza artificiale ha affermato che la risposta del chatbot le ha indotte a pensare di non aver bisogno di consultare un medico o un professionista sanitario. Quasi un quarto ha addirittura dichiarato di aver deciso di non andare dal medico dopo aver letto la risposta dell'IA.

Questi dati hanno indotto gli esperti a temere che l'intelligenza artificiale possa aumentare il tasso di ritardi nelle cure o di automedicazione senza la supervisione di un medico.

La professoressa Victoria Tzortziou Brown, presidente del Royal College of General Practitioners nel Regno Unito, ha avvertito che sarebbe "davvero preoccupante" se le persone utilizzassero l'intelligenza artificiale al posto delle visite mediche di persona. Secondo lei, l'IA può fornire risposte rapide, ma non può sostituire gli esami fisici, la valutazione dell'anamnesi, il riconoscimento di segni lievi o l'assunzione di decisioni cliniche basate su prove scientifiche. "Le informazioni fornite dall'IA potrebbero essere imprecise, fuorvianti o prive di un contesto cruciale", ha sottolineato.

Secondo gli esperti, la maggior parte dei chatbot odierni si basa sul Large Language Model (LLM), progettato principalmente per creare conversazioni naturali e tendere a "piacere" agli utenti. Questo fa sì che l'IA tenda ad essere d'accordo con chi pone la domanda, piuttosto che controbattere o chiedere ulteriori chiarimenti per verificarne l'accuratezza. Inoltre, porre domande può anche indurre il chatbot in errore.

In un caso documentato, il chatbot inizialmente ha messo in guardia l'utente dall'eseguire una procedura medica a casa, per poi fornire istruzioni dettagliate e passo passo. Secondo la dottoressa Monica Agrawal, esperta della Duke University, un vero medico avrebbe interrotto immediatamente la conversazione anziché continuare a dare istruzioni pericolose.

Secondo i ricercatori, l'intelligenza artificiale incontra particolari difficoltà in situazioni con dati limitati o molteplici diagnosi possibili. Gli esperti avvertono inoltre che i chatbot basati sull'IA sono vulnerabili alla disinformazione su Internet. In un esperimento del 2024, i ricercatori hanno creato una malattia fittizia chiamata "bixonimania" e hanno poi pubblicato online una serie di documenti falsificati. Solo poche settimane dopo, molti chatbot hanno iniziato a citare questa malattia inesistente come una vera diagnosi medica.

Sebbene l'intelligenza artificiale possa essere uno strumento utile per accedere a conoscenze mediche di base, spiegare testi specialistici o fungere da primo punto di riferimento prima di una visita medica, gli esperti sottolineano che questa tecnologia dovrebbe essere solo uno strumento di supporto e non può sostituire i professionisti sanitari. I ricercatori auspicano inoltre la rapida istituzione di meccanismi di regolamentazione e verifica indipendenti per garantire la sicurezza degli utenti.

    Fonte: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994