IA devine treptat un „medic online”.

Dezvoltarea rapidă a chatbot-urilor bazate pe inteligență artificială, precum ChatGPT, Gemini și Claude, schimbă modul în care oamenii accesează informațiile medicale . Cu doar câteva rânduri de întrebări, utilizatorii pot primi răspunsuri aproape instantanee despre simptome, medicamente, boli sau sănătate mintală, fără a fi nevoie să programeze întâlniri sau să aștepte la spitale.

Un sondaj realizat de King's College London pe un eșantion de peste 2.000 de persoane din Marea Britanie a constatat că peste 15% au folosit chatboți cu inteligență artificială pentru a întreba despre probleme de sănătate, în loc să consulte un medic generalist sau sistemul de sănătate publică NHS.

Dincolo de problemele fizice, inteligența artificială este utilizată și de mulți pentru a sprijini sănătatea mintală. Aproximativ 10% dintre cei chestionați au raportat că utilizează chatboți pentru a solicita asistență în domeniul sănătății mintale în loc de profesioniști instruiți. Experții consideră acesta un semn îngrijorător, deoarece inteligența artificială devine din ce în ce mai mult „prima linie de contact” pentru multe probleme de sănătate.

Cu doar câteva rânduri de întrebări, utilizatorii pot primi răspunsuri aproape instantanee despre simptome, medicamente, boli sau sănătate mintală de la chatboți cu inteligență artificială. (Imagine: nationalhealthexecutive.com)

Conform studiului, confortul este cel mai frecvent motiv pentru care oamenii apelează la inteligență artificială. Aproape jumătate dintre participanți au spus că chatboții îi ajută să acceseze informații mai rapid și mai ușor. Mulți alții folosesc inteligența artificială din curiozitate cu privire la noile tehnologii sau pentru că nu sunt siguri dacă afecțiunea lor este suficient de gravă pentru a necesita contactarea unui medic.

Profesorul Graham Lord, autorul principal al studiului, a remarcat că proliferarea chatboților creează un „sistem de sănătate bazat pe inteligență artificială care nu este reglementat în paralel cu sistemul public de sănătate”. Potrivit acestuia, inteligența artificială schimbă rapid modul în care oamenii accesează asistența medicală, dar acest lucru vine la pachet cu probleme majore legate de fiabilitate, siguranță și responsabilitate.

Această tendință nu se limitează la Regatul Unit; ea este în creștere rapidă și în multe țări. În SUA, un sondaj realizat de Centrul West Health-Gallup privind asistența medicală, care a implicat aproximativ 5.600 de adulți, a arătat că una din patru persoane folosește chatbot-uri pentru a căuta informații sau sfaturi legate de sănătate. Aproximativ 14% au raportat că nu au consultat un medic după ce au primit informații de la inteligența artificială.

Riscuri neprevăzute

Odată cu creșterea popularității lor, apar și o serie de avertismente cu privire la riscurile imprevizibile ale sfaturilor incorecte sau periculoase din partea chatboților cu inteligență artificială. Multe studii recente arată că chatboții cu inteligență artificială pot oferi într-adevăr diagnostice inexacte sau sfaturi potențial dăunătoare utilizatorilor, în special în situații medicale complexe sau în situații în care lipsesc date.

Într-un studiu publicat în JAMA Network Open de către o echipă de autori din sistemul de sănătate Mass General Brigham, oamenii de știință au cerut unui număr de 21 de modele de inteligență artificială să „joace rolul medicilor” pentru a gestiona situații medicale ipotetice. Rezultatele au arătat că chatboții se grăbesc adesea să tragă concluzii în loc să mențină îndoiala și să continue să analizeze precum medicii adevărați. Studiul a dezvăluit că acești chatboți au diagnosticat greșit 80% din cazuri.

Între timp, rezultatele unui alt studiu publicat în BMJ Open, care a testat cinci chatboți cu inteligență artificială cu 250 de întrebări legate de cancer, vaccinuri, nutriție și alte subiecte de sănătate susceptibile de dezinformare, au arătat că rata de răspunsuri corecte a fost puțin peste 50%, în timp ce aproximativ 20% din răspunsurile greșite au fost considerate potențial dăunătoare dacă sunt urmate. Nicholas Tiller, coautor al studiului, a spus că cel mai îngrijorător lucru este că inteligența artificială răspunde adesea cu un grad ridicat de încredere chiar și atunci când greșește. „Dacă cineva urmează acest sfat, există o mare probabilitate să fie afectat”, a spus el.

Cea mai îngrijorătoare problemă este că mulți oameni încep să considere chatboții drept medici reali. Conform unui sondaj realizat de King's College London, aproximativ 20% dintre persoanele care au folosit inteligența artificială au declarat că răspunsul chatbotului i-a făcut să creadă că nu au nevoie să consulte un medic sau un profesionist medical. Aproape un sfert au spus chiar că au decis să nu consulte un medic după ce au citit răspunsul inteligenței artificiale.

Aceste cifre i-au determinat pe experți să se îngrijoreze că inteligența artificială ar putea crește rata întârzierilor în tratament sau a autotratamentului fără îndrumarea medicilor.

Profesorul Victoria Tzortziou Brown, președinta Colegiului Regal al Medicilor Generaliști din Marea Britanie, a avertizat că ar fi „extrem de îngrijorător” dacă oamenii ar folosi inteligența artificială în locul examenelor medicale în persoană. Potrivit acesteia, inteligența artificială poate oferi răspunsuri rapide, dar nu poate înlocui examenele fizice, evaluarea istoricului medical, recunoașterea semnelor subtile sau luarea deciziilor clinice bazate pe dovezi. „Informațiile furnizate de inteligența artificială pot fi inexacte, înșelătoare sau pot lipsi de contextul crucial”, a subliniat ea.

Potrivit experților, majoritatea chatbot-urilor de astăzi sunt construite pe Modelul de Limbaj Mare (LLM), care este conceput în principal pentru a crea conversații naturale și tinde să „mulțumească” utilizatorii. Acest lucru face ca inteligența artificială să tindă să fie de acord cu cel care pune întrebarea, în loc să se certe sau să pună întrebări suplimentare pentru a verifica acuratețea. Pe lângă aceasta, adresarea de întrebări poate, de asemenea, să inducă chatbot-ul în eroare.

Într-un caz documentat, chatbot-ul a avertizat inițial utilizatorul să nu efectueze o procedură medicală acasă, dar apoi a continuat să ofere instrucțiuni detaliate, pas cu pas. Potrivit Dr. Monica Agrawal, expertă la Universitatea Duke, un medic real ar fi încheiat conversația imediat, în loc să continue să dea instrucțiuni periculoase.

Potrivit cercetătorilor, inteligența artificială se confruntă cu dificultăți în special în situații cu date limitate sau diagnostice multiple posibile. Experții avertizează, de asemenea, că chatboții cu inteligență artificială sunt vulnerabili la dezinformarea de pe internet. Într-un experiment din 2024, cercetătorii au creat o boală falsă numită „bixonimanie” și apoi au publicat online o serie de documente fabricate. Doar câteva săptămâni mai târziu, mulți chatboți au început să citeze această boală inexistentă drept un diagnostic medical real.

Deși inteligența artificială poate fi un instrument util în accesarea cunoștințelor medicale de bază, explicarea literaturii de specialitate sau servind ca referință inițială înainte de o vizită la medic, experții subliniază că această tehnologie ar trebui să fie doar un instrument de sprijin și nu poate înlocui profesioniștii din domeniul medical. Cercetătorii solicită, de asemenea, instituirea rapidă a unor mecanisme independente de reglementare și verificare pentru a asigura siguranța utilizatorilor.

    Sursă: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994