A mesterséges intelligencia fokozatosan „online orvossá” válik.

Az olyan mesterséges intelligencián alapuló chatbotok, mint a ChatGPT, a Gemini és a Claude, gyors fejlődése megváltoztatja az emberek hozzáférését az orvosi információkhoz. Mindössze néhány sornyi kérdéssel a felhasználók szinte azonnali válaszokat kaphatnak a tünetekkel, gyógyszerekkel, betegségekkel vagy mentális egészséggel kapcsolatban anélkül, hogy időpontot kellene egyeztetniük vagy kórházban kellene várniuk.

A King's College London több mint 2000 brit ember bevonásával végzett felmérése szerint a megkérdezettek több mint 15%-a mesterséges intelligencián alapuló chatbotokat használt egészségügyi problémákkal kapcsolatos kérdések feltevésére ahelyett, hogy háziorvoshoz vagy az NHS közegészségügyi rendszeréhez fordult volna.

A fizikai problémákon túl sokan a mesterséges intelligenciát a mentális egészség támogatására is használják. A megkérdezettek körülbelül 10%-a számolt be arról, hogy chatbotokat használ mentális egészségügyi támogatás kérésére képzett szakemberek helyett. A szakértők ezt aggasztó jelnek tartják, mivel a mesterséges intelligencia egyre inkább az „első kapcsolattartó ponttá” válik számos egészségügyi probléma esetén.

Néhány kérdéssel a felhasználók szinte azonnali válaszokat kaphatnak a mesterséges intelligencia által vezérelt chatbotoktól a tünetekkel, gyógyszerekkel, betegségekkel vagy mentális egészséggel kapcsolatban. (Kép: nationalhealthexecutive.com)

A tanulmány szerint a kényelem a leggyakoribb ok, amiért az emberek a mesterséges intelligenciához fordulnak. A résztvevők közel fele mondta, hogy a chatbotok segítenek nekik gyorsabban és könnyebben hozzáférni az információkhoz. Sokan mások kíváncsiságból használják a mesterséges intelligenciát az új technológiák iránt, vagy mert nem biztosak benne, hogy állapotuk elég súlyos-e ahhoz, hogy orvoshoz kelljen fordulniuk.

Graham Lord professzor, a tanulmány vezető szerzője megjegyezte, hogy a chatbotok elterjedése egy „mesterséges intelligencia alapú egészségügyi rendszert hoz létre, amelyet nem szabályoznak párhuzamosan a közegészségügyi rendszerrel”. Szerinte a mesterséges intelligencia gyorsan megváltoztatja az emberek egészségügyi ellátáshoz való hozzáférését, de ez komoly problémákkal jár a megbízhatósággal, a biztonsággal és az elszámoltathatósággal kapcsolatban.

Ez a tendencia nem korlátozódik az Egyesült Királyságra; számos országban is gyorsan terjed. Az Egyesült Államokban a West Health-Gallup Center egészségügyi ellátással kapcsolatos felmérése, amelyben körülbelül 5600 felnőtt vett részt, kimutatta, hogy minden negyedik ember chatbotot használ egészségügyi információk vagy tanácsok keresésére. Körülbelül 14%-uk számolt be arról, hogy nem fordult orvoshoz, miután információkat kapott a mesterséges intelligenciától.

Előre nem látható kockázatok

Növekvő népszerűségükkel együtt számos figyelmeztetés is felmerül a mesterséges intelligencia által nyújtott chatbotok helytelen vagy veszélyes tanácsainak kiszámíthatatlan kockázatairól. Számos friss tanulmány kimutatta, hogy a mesterséges intelligencia által nyújtott chatbotok valóban pontatlan diagnózisokat vagy potenciálisan káros tanácsokat adhatnak a felhasználóknak, különösen összetett orvosi helyzetekben vagy adathiányos helyzetekben.

A JAMA Network Open folyóiratban publikált, a Massachusetts General Brigham egészségügyi rendszer szerzőiből álló csapat által készített tanulmányban a tudósok 21 mesterséges intelligencia modellt kértek meg, hogy „játsszák el az orvosok szerepét” hipotetikus orvosi helyzetek kezelésében. Az eredmények azt mutatták, hogy a chatbotok gyakran elhamarkodott következtetésekre jutottak ahelyett, hogy kétségeket tartottak volna fenn, és folytatták volna az elemzést, mint az igazi orvosok. A tanulmány kimutatta, hogy ezek a chatbotok az esetek 80%-ában téves diagnózist állítottak fel.

Eközben egy másik, a BMJ Openben publikált tanulmány eredményei, amely öt mesterséges intelligenciával működő chatbotot tesztelt 250, rákkal, oltásokkal, táplálkozással és más, félretájékoztatásra hajlamos egészségügyi témákkal kapcsolatos kérdéssel, azt mutatták, hogy a helyes válaszok aránya alig haladta meg az 50%-ot, míg a helytelen válaszok körülbelül 20%-át potenciálisan károsnak ítélték, ha követték őket. Nicholas Tiller, a tanulmány társszerzője szerint a legaggasztóbb az, hogy a mesterséges intelligencia gyakran nagyfokú magabiztossággal válaszol, még akkor is, ha téved. „Ha valaki megfogadja ezt a tanácsot, nagy az esélye, hogy kárt szenved” – mondta.

A legaggasztóbb probléma az, hogy sokan kezdik igazi orvosoknak tekinteni a chatbotokat. A King's College London felmérése szerint a mesterséges intelligenciát használók körülbelül 20%-a mondta azt, hogy a chatbot válasza alapján úgy gondolták, hogy nincs szükségük orvoshoz vagy egészségügyi szakemberhez fordulni. Majdnem a negyedük azt mondta, hogy a mesterséges intelligencia válaszának elolvasása után úgy döntött, hogy mégsem fordul orvoshoz.

Ezek a számok arra késztették a szakértőket, hogy aggódjanak amiatt, hogy a mesterséges intelligencia növelheti a kezelési késedelmek vagy az orvosi útmutatás nélküli öngyógyítás arányát.

Victoria Tzortziou Brown professzor, az Egyesült Királyság Királyi Általános Orvosi Kollégiumának elnöke figyelmeztetett, hogy „komolyan aggasztó” lenne, ha az emberek a személyes orvosi vizsgálatok helyett mesterséges intelligenciát használnának. Szerinte a mesterséges intelligencia gyors válaszokat adhat, de nem helyettesítheti a fizikális vizsgálatokat, a kórtörténet felmérését, a finom jelek felismerését vagy a bizonyítékokon alapuló klinikai döntések meghozatalát. „A mesterséges intelligencia által nyújtott információk pontatlanok, félrevezetőek lehetnek, vagy hiányozhatnak belőlük a lényeges kontextus” – hangsúlyozta.

Szakértők szerint a legtöbb mai chatbot a Nagy Nyelvi Modellre (LLM) épül, amelyet elsősorban a természetes beszélgetések létrehozására terveztek, és a felhasználók „kedvére tesz”. Ez azt eredményezi, hogy a mesterséges intelligencia inkább egyetért a kérdezővel, ahelyett, hogy vitatkozna vagy további kérdéseket tenne fel a pontosság ellenőrzése érdekében. Emellett a kérdések feltevése félrevezetheti a chatbotot.

Egy dokumentált esetben a chatbot először figyelmeztette a felhasználót, hogy ne végezzen otthon orvosi beavatkozást, de ezután részletes, lépésről lépésre kidolgozott utasításokat adott. Dr. Monica Agrawal, a Duke Egyetem szakértője szerint egy igazi orvos azonnal befejezte volna a beszélgetést, ahelyett, hogy folytatta volna a veszélyes utasításokat.

A kutatók szerint a mesterséges intelligencia különösen nehezen viseli a korlátozott adatmennyiség vagy a több lehetséges diagnózis esetén jelentkező helyzeteket. A szakértők arra is figyelmeztetnek, hogy a mesterséges intelligencia alapú chatbotok sebezhetőek az interneten található félretájékoztatással szemben. Egy 2024-es kísérletben a kutatók létrehoztak egy „bixonimániának” nevezett álbetegséget, majd egy sor kitalált dokumentumot tettek közzé az interneten. Mindössze hetekkel később sok chatbot elkezdte ezt a nem létező betegséget valódi orvosi diagnózisként hivatkozni.

Bár a mesterséges intelligencia hasznos eszköz lehet az alapvető orvosi ismeretek elérésében, a szakirodalom magyarázatában, vagy kezdeti referenciaként szolgálhat az orvosi látogatás előtt, a szakértők hangsúlyozzák, hogy ez a technológia csak támogató eszköz lehet, és nem helyettesítheti az egészségügyi szakembereket. A kutatók a felhasználók biztonságának garantálása érdekében független szabályozási és ellenőrzési mechanizmusok mielőbbi létrehozását is szorgalmazzák.

    Forrás: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994