Umělá inteligence se postupně stává „online lékařem“.

Rychlý rozvoj chatbotů s umělou inteligencí, jako jsou ChatGPT, Gemini a Claude, mění způsob, jakým lidé přistupují k lékařským informacím. Stačí jen pár řádků otázek a uživatelé mohou získat téměř okamžité odpovědi na příznaky, léky, nemoci nebo duševní zdraví, aniž by si museli domlouvat schůzky nebo čekat v nemocnicích.

Průzkum King's College London mezi více než 2 000 lidmi ve Spojeném království zjistil, že více než 15 % z nich použilo chatboty s umělou inteligencí k dotazování na zdravotní problémy místo konzultace s praktickým lékařem nebo systémem veřejného zdravotnictví NHS.

Kromě fyzických problémů mnoho lidí využívá umělou inteligenci také k podpoře duševního zdraví. Přibližně 10 % dotázaných uvedlo, že k vyhledání podpory v oblasti duševního zdraví používají chatboty namísto vyškolených odborníků. Odborníci to považují za znepokojivé znamení, protože umělá inteligence se stále častěji stává „první kontaktní linií“ pro mnoho zdravotních problémů.

Uživatelé mohou pomocí pouhých několika řádků otázek obdržet téměř okamžité odpovědi na otázky týkající se symptomů, léků, nemocí nebo duševního zdraví od chatbotů s umělou inteligencí. (Obrázek: nationalhealthexecutive.com)

Podle studie je pohodlí nejčastějším důvodem, proč se lidé obracejí k umělé inteligenci. Téměř polovina účastníků uvedla, že chatboti jim pomáhají rychleji a snadněji přistupovat k informacím. Mnoho dalších používá umělou inteligenci ze zvědavosti na nové technologie nebo proto, že si nejsou jisti, zda je jejich stav natolik vážný, aby vyžadoval kontaktování lékaře.

Profesor Graham Lord, hlavní autor studie, poznamenal, že šíření chatbotů vytváří „systém zdravotní péče s umělou inteligencí, který není regulován souběžně se systémem veřejného zdravotnictví“. Podle něj umělá inteligence rychle mění způsob, jakým lidé přistupují ke zdravotní péči, ale to s sebou nese zásadní problémy týkající se spolehlivosti, bezpečnosti a odpovědnosti.

Tento trend se neomezuje pouze na Spojené království; v mnoha zemích také rychle roste. V USA průzkum West Health-Gallup Center o zdravotní péči, kterého se zúčastnilo přibližně 5 600 dospělých, odhalil, že každý čtvrtý člověk používá chatboty k vyhledávání informací nebo rad týkajících se zdraví. Přibližně 14 % uvedlo, že po obdržení informací od umělé inteligence nenavštívili lékaře.

Nepředvídaná rizika

Spolu s jejich rostoucí popularitou přichází řada varování před nepředvídatelnými riziky nesprávných nebo nebezpečných rad od chatbotů s umělou inteligencí. Mnoho nedávných studií ukazuje, že chatboti s umělou inteligencí mohou uživatelům skutečně poskytovat nepřesné diagnózy nebo potenciálně škodlivé rady, zejména ve složitých lékařských situacích nebo situacích, kdy chybí data.

Ve studii publikované v časopise JAMA Network Open týmem autorů ze zdravotnického systému Massachusetts General Brigham vědci požádali 21 modelů umělé inteligence, aby „hrály roli lékařů“ a řešily hypotetické zdravotní situace. Výsledky ukázaly, že chatboti často ukvapeně vyvodzovali závěry, místo aby si udržovali pochybnosti a pokračovali v analýze jako skuteční lékaři. Studie odhalila, že tito chatboti v 80 % případů stanovili chybnou diagnózu.

Mezitím výsledky jiné studie publikované v BMJ Open, která testovala pět chatbotů s umělou inteligencí s 250 otázkami týkajícími se rakoviny, vakcín, výživy a dalších zdravotních témat náchylných k dezinformacím, ukázaly, že míra správných odpovědí byla něco málo přes 50 %, zatímco přibližně 20 % nesprávných odpovědí bylo považováno za potenciálně škodlivé, pokud by se jimi řídily. Nicholas Tiller, spoluautor studie, uvedl, že nejvíce znepokojivé je, že umělé inteligence často odpovídají s vysokou mírou sebevědomí, i když se mýlí. „Pokud se někdo touto radou řídí, existuje vysoká šance, že mu bude ublíženo,“ řekl.

Nejznepokojivějším problémem je, že mnoho lidí začíná vnímat chatboty jako skutečné lékaře. Podle průzkumu King's College London přibližně 20 % lidí, kteří použili umělou inteligenci, uvedlo, že odpověď chatbota je přiměla k myšlence, že nepotřebují navštívit lékaře ani zdravotnického pracovníka. Téměř čtvrtina dokonce uvedla, že se po přečtení odpovědi umělé inteligence rozhodla lékaře nenavštívit.

Tato čísla vedly odborníky k obavám, že umělá inteligence by mohla zvýšit míru zpoždění léčby nebo samoléčby bez vedení lékařů.

Profesorka Victoria Tzortziou Brownová, předsedkyně Královské akademie praktických lékařů ve Spojeném království, varovala, že by bylo „vážně znepokojivé“, kdyby lidé místo osobních lékařských vyšetření používali umělou inteligenci. Podle ní umělá inteligence může poskytnout rychlé odpovědi, ale nemůže nahradit fyzikální vyšetření, posouzení anamnézy, rozpoznávání jemných příznaků ani přijímání klinických rozhodnutí založených na důkazech. „Informace, které umělá inteligence poskytuje, mohou být nepřesné, zavádějící nebo postrádat klíčový kontext,“ zdůraznila.

Podle odborníků je většina dnešních chatbotů postavena na modelu velkého jazyka (LLM), který je primárně navržen k vytváření přirozených konverzací a má tendenci „potěšit“ uživatele. To způsobuje, že umělá inteligence má tendenci souhlasit s tazatelem, spíše než aby se hádala nebo kladla další otázky k ověření správnosti. Spolu s tím může kladení otázek chatbota také svést na scestí.

V jednom zdokumentovaném případě chatbot nejprve uživatele varoval před prováděním lékařského zákroku doma, ale poté mu poskytl podrobné pokyny krok za krokem. Podle Dr. Monicy Agrawalové, odbornice z Duke University, by skutečný lékař konverzaci okamžitě ukončil, místo aby pokračoval v udělování nebezpečných pokynů.

Podle výzkumníků má umělá inteligence problémy zejména v situacích s omezenými daty nebo s více možnými diagnózami. Odborníci také varují, že chatboti s umělou inteligencí jsou náchylní k dezinformacím na internetu. V experimentu z roku 2024 vědci vytvořili falešnou nemoc zvanou „bixonimánie“ a poté online zveřejnili sérii smyšlených dokumentů. Jen o několik týdnů později začalo mnoho chatbotů uvádět tuto neexistující nemoc jako skutečnou lékařskou diagnózu.

I když může být umělá inteligence užitečným nástrojem pro přístup k základním lékařským znalostem, vysvětlování odborné literatury nebo sloužit jako úvodní reference před návštěvou lékaře, odborníci zdůrazňují, že tato technologie by měla být pouze podpůrným nástrojem a nemůže nahradit zdravotnické pracovníky. Výzkumníci rovněž vyzývají k brzkému zavedení nezávislých regulačních a ověřovacích mechanismů pro zajištění bezpečnosti uživatelů.

    Zdroj: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994