Sztuczna inteligencja stopniowo staje się „lekarzem online”.

Szybki rozwój chatbotów opartych na sztucznej inteligencji, takich jak ChatGPT, Gemini i Claude, zmienia sposób, w jaki ludzie uzyskują dostęp do informacji medycznych . Zadając zaledwie kilka linijek pytań, użytkownicy mogą niemal natychmiast uzyskać odpowiedzi na temat objawów, leków, chorób lub zdrowia psychicznego, bez konieczności umawiania się na wizyty lekarskie czy czekania w szpitalach.

Badanie przeprowadzone przez King’s College London wśród ponad 2000 osób w Wielkiej Brytanii wykazało, że ponad 15% ankietowanych skorzystało z chatbotów opartych na sztucznej inteligencji, aby zadać pytania dotyczące zdrowia, zamiast skonsultować się z lekarzem pierwszego kontaktu lub publiczną służbą zdrowia NHS.

Poza problemami fizycznymi, wiele osób wykorzystuje sztuczną inteligencję również do wspierania zdrowia psychicznego. Około 10% ankietowanych przyznało, że korzysta z chatbotów w celu uzyskania wsparcia w zakresie zdrowia psychicznego zamiast z pomocy wykwalifikowanych specjalistów. Eksperci uważają to za niepokojący sygnał, ponieważ sztuczna inteligencja staje się coraz częściej „pierwszą linią kontaktu” w przypadku wielu problemów zdrowotnych.

Zadając zaledwie kilka linijek pytań, użytkownicy mogą niemal natychmiast otrzymać odpowiedzi od chatbotów opartych na sztucznej inteligencji na temat objawów, leków, chorób lub zdrowia psychicznego. (Zdjęcie: nationalhealthexecutive.com)

Według badania, wygoda jest najczęstszym powodem, dla którego ludzie sięgają po sztuczną inteligencję. Prawie połowa uczestników stwierdziła, że ​​chatboty pomagają im szybciej i łatwiej uzyskać dostęp do informacji. Wielu innych korzysta ze sztucznej inteligencji z ciekawości nowych technologii lub dlatego, że nie są pewni, czy ich stan jest na tyle poważny, że wymaga konsultacji z lekarzem.

Profesor Graham Lord, główny autor badania, zauważył, że rozprzestrzenianie się chatbotów prowadzi do powstania „systemu opieki zdrowotnej opartego na sztucznej inteligencji, który nie jest regulowany równolegle z systemem zdrowia publicznego”. Według niego sztuczna inteligencja szybko zmienia sposób, w jaki ludzie korzystają z opieki zdrowotnej, ale wiąże się to z poważnymi problemami związanymi z niezawodnością, bezpieczeństwem i odpowiedzialnością.

Ten trend nie ogranicza się tylko do Wielkiej Brytanii; dynamicznie rośnie również w wielu krajach. W Stanach Zjednoczonych badanie West Health-Gallup Center dotyczące opieki zdrowotnej, przeprowadzone na grupie około 5600 dorosłych, wykazało, że co czwarta osoba korzysta z chatbotów w celu wyszukiwania informacji lub porad zdrowotnych. Około 14% respondentów przyznało, że nie zgłosiło się do lekarza po otrzymaniu informacji od sztucznej inteligencji.

Nieprzewidziane ryzyka

Wraz z ich rosnącą popularnością pojawia się mnóstwo ostrzeżeń o nieprzewidywalnym ryzyku związanym z udzielaniem nieprawidłowych lub niebezpiecznych porad przez chatboty oparte na sztucznej inteligencji. Wiele ostatnich badań pokazuje, że chatboty oparte na sztucznej inteligencji mogą rzeczywiście udzielać użytkownikom błędnych diagnoz lub potencjalnie szkodliwych porad, zwłaszcza w złożonych sytuacjach medycznych lub w sytuacjach, w których brakuje danych.

W badaniu opublikowanym w JAMA Network Open przez zespół autorów z systemu opieki zdrowotnej Mass General Brigham, naukowcy poprosili 21 modeli sztucznej inteligencji o „odgrywanie roli lekarzy” w celu radzenia sobie z hipotetycznymi sytuacjami medycznymi. Wyniki pokazały, że chatboty często pochopnie wyciągały wnioski, zamiast podtrzymywać wątpliwości i kontynuować analizę jak prawdziwi lekarze. Badanie ujawniło, że chatboty te stawiały błędne diagnozy w 80% przypadków.

Tymczasem wyniki innego badania opublikowanego w czasopiśmie „BMJ Open”, w którym przetestowano pięć chatbotów opartych na sztucznej inteligencji, odpowiadając na 250 pytań dotyczących raka, szczepionek, żywienia i innych zagadnień zdrowotnych podatnych na dezinformację, wykazały, że odsetek poprawnych odpowiedzi wyniósł nieco ponad 50%, podczas gdy około 20% błędnych odpowiedzi uznano za potencjalnie szkodliwe, jeśli zostaną zastosowane. Nicholas Tiller, współautor badania, powiedział, że najbardziej niepokojące jest to, że sztuczne inteligencje często udzielają odpowiedzi z dużą pewnością siebie, nawet jeśli są błędne. „Jeśli ktoś zastosuje się do tej rady, istnieje duże prawdopodobieństwo, że zostanie skrzywdzony” – powiedział.

Najbardziej niepokojącym problemem jest to, że wiele osób zaczyna postrzegać chatboty jako prawdziwych lekarzy. Według badania przeprowadzonego przez King’s College London, około 20% osób, które korzystały ze sztucznej inteligencji, stwierdziło, że odpowiedź chatbota sprawiła, że ​​uznały, że nie potrzebują wizyty u lekarza ani specjalisty. Prawie jedna czwarta stwierdziła nawet, że po przeczytaniu odpowiedzi sztucznej inteligencji zrezygnowała z wizyty u lekarza.

Dane te sprawiły, że eksperci zaczęli się obawiać, że sztuczna inteligencja może zwiększyć liczbę opóźnień w leczeniu lub przypadków samodzielnego leczenia bez wskazówek lekarzy.

Profesor Victoria Tzortziou Brown, przewodnicząca Królewskiego Kolegium Lekarzy Ogólnych w Wielkiej Brytanii, ostrzegła, że ​​korzystanie ze sztucznej inteligencji zamiast osobistych badań lekarskich byłoby „poważnie niepokojące”. Według niej sztuczna inteligencja może udzielać szybkich odpowiedzi, ale nie może zastąpić badania fizykalnego, analizy historii choroby, rozpoznawania subtelnych objawów ani podejmowania decyzji klinicznych opartych na dowodach. „Informacje dostarczane przez sztuczną inteligencję mogą być niedokładne, mylące lub pozbawione kluczowego kontekstu” – podkreśliła.

Według ekspertów, większość dzisiejszych chatbotów opiera się na modelu LLM (Large Language Model), który został zaprojektowany przede wszystkim do prowadzenia naturalnych rozmów i ma na celu „zadowolenie” użytkowników. To sprawia, że ​​sztuczna inteligencja skłania się ku zgadzaniu się z pytającym, zamiast kłócić się lub zadawać dodatkowe pytania w celu sprawdzenia poprawności odpowiedzi. Co więcej, zadawanie pytań może również wprowadzić chatbota w błąd.

W jednym udokumentowanym przypadku chatbot początkowo ostrzegał użytkownika przed wykonaniem zabiegu medycznego w domu, ale następnie udzielał szczegółowych instrukcji krok po kroku. Według dr Moniki Agrawal, ekspertki z Duke University, prawdziwy lekarz natychmiast zakończyłby rozmowę, zamiast kontynuować udzielanie niebezpiecznych instrukcji.

Według naukowców, sztuczna inteligencja ma trudności szczególnie w sytuacjach z ograniczoną ilością danych lub wieloma możliwymi diagnozami. Eksperci ostrzegają również, że chatboty oparte na sztucznej inteligencji są podatne na dezinformację w internecie. W eksperymencie przeprowadzonym w 2024 roku naukowcy stworzyli fałszywą chorobę zwaną „biksonimanią”, a następnie opublikowali w internecie serię sfabrykowanych dokumentów. Zaledwie kilka tygodni później wiele chatbotów zaczęło podawać tę nieistniejącą chorobę jako prawdziwą diagnozę medyczną.

Chociaż sztuczna inteligencja może być użytecznym narzędziem w dostępie do podstawowej wiedzy medycznej, wyjaśnianiu literatury specjalistycznej lub służyć jako wstępny punkt odniesienia przed wizytą u lekarza, eksperci podkreślają, że technologia ta powinna być jedynie narzędziem wspomagającym i nie może zastąpić personelu medycznego. Naukowcy apelują również o jak najszybsze ustanowienie niezależnych mechanizmów regulacyjnych i weryfikacyjnych w celu zapewnienia bezpieczeństwa użytkowników.

    Źródło: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994