Штучний інтелект поступово стає «онлайн-лікарем».

Швидкий розвиток чат-ботів на базі штучного інтелекту, таких як ChatGPT, Gemini та Claude, змінює спосіб доступу людей до медичної інформації. За допомогою лише кількох рядків запитань користувачі можуть отримувати майже миттєві відповіді щодо симптомів, ліків, хвороб чи психічного здоров'я, не записуючись на прийом чи чекаючи в лікарнях.

Опитування, проведене Королівським коледжем Лондона серед понад 2000 осіб у Великій Британії, показало, що понад 15% використовували чат-ботів зі штучним інтелектом, щоб запитати про проблеми зі здоров'ям, замість того, щоб консультуватися з лікарем загальної практики або системою охорони здоров'я Національної служби охорони здоров'я (NHS).

Окрім фізичних проблем, багато хто також використовує штучний інтелект для підтримки психічного здоров’я. Приблизно 10% опитаних повідомили, що використовують чат-ботів для звернення за допомогою у сфері психічного здоров’я замість кваліфікованих фахівців. Експерти вважають це тривожною ознакою, оскільки штучний інтелект все частіше стає «першою лінією контакту» для вирішення багатьох проблем зі здоров’ям.

Всього за кілька рядків запитань користувачі можуть отримати майже миттєві відповіді від чат-ботів зі штучним інтелектом щодо симптомів, ліків, хвороб чи психічного здоров'я. (Зображення: nationalhealthexecutive.com)

Згідно з дослідженням, зручність є найпоширенішою причиною, чому люди звертаються до штучного інтелекту. Майже половина учасників заявила, що чат-боти допомагають їм швидше та легше отримувати доступ до інформації. Багато інших використовують штучний інтелект з цікавості до нових технологій або тому, що вони не впевнені, чи є їхній стан достатньо серйозним, щоб вимагати звернення до лікаря.

Професор Грем Лорд, провідний автор дослідження, зазначив, що поширення чат-ботів створює «систему охорони здоров’я на основі штучного інтелекту, яка не регулюється паралельно із системою охорони здоров’я». За його словами, штучний інтелект швидко змінює спосіб доступу людей до медичного обслуговування, але це пов’язано з серйозними проблемами, пов’язаними з надійністю, безпекою та підзвітністю.

Ця тенденція не обмежується лише Великою Британією; вона також швидко зростає в багатьох країнах. У США опитування Центру West Health-Gallup щодо охорони здоров’я, в якому взяли участь приблизно 5600 дорослих, показало, що кожна четверта людина використовує чат-ботів для пошуку інформації чи порад, пов’язаних зі здоров’ям. Близько 14% повідомили, що не звернулися до лікаря після отримання інформації від штучного інтелекту.

Непередбачені ризики

Поряд зі зростанням їхньої популярності з'являється безліч попереджень про непередбачувані ризики неправильних або небезпечних порад від чат-ботів зі штучним інтелектом. Багато нещодавніх досліджень показують, що чат-боти зі штучним інтелектом справді можуть надавати користувачам неточні діагнози або потенційно шкідливі поради, особливо у складних медичних ситуаціях або ситуаціях, коли не вистачає даних.

У дослідженні, опублікованому в JAMA Network Open групою авторів із системи охорони здоров'я Массачусетського університету в Брігамі, вчені попросили 21 модель штучного інтелекту «зіграти роль лікарів» для вирішення гіпотетичних медичних ситуацій. Результати показали, що чат-боти часто поспішали з висновками замість того, щоб підтримувати сумніви та продовжувати аналізувати, як справжні лікарі. Дослідження показало, що ці чат-боти неправильно діагностували 80% випадків.

Тим часом, результати іншого дослідження, опублікованого в BMJ Open, в якому було протестовано п'ять чат-ботів зі штучним інтелектом із 250 питаннями, пов'язаними з раком, вакцинами, харчуванням та іншими темами охорони здоров'я, схильними до дезінформації, показали, що рівень правильних відповідей становив трохи більше 50%, тоді як близько 20% неправильних відповідей вважалися потенційно шкідливими, якщо їх дотримуватися. Ніколас Тіллер, співавтор дослідження, сказав, що найбільше тривожить те, що штучний інтелект часто відповідає з високим ступенем впевненості, навіть коли помиляється. «Якщо хтось дотримується цієї поради, є висока ймовірність того, що йому буде завдано шкоди», – сказав він.

Найбільше занепокоєння викликає те, що багато людей починають сприймати чат-ботів як справжніх лікарів. Згідно з опитуванням Королівського коледжу Лондона, близько 20% людей, які користувалися штучним інтелектом, сказали, що відповідь чат-бота змусила їх подумати, що їм не потрібно звертатися до лікаря чи медичного працівника. Майже чверть навіть сказали, що вирішили не звертатися до лікаря після прочитання відповіді штучного інтелекту.

Ці цифри змусили експертів занепокоїтися, що штучний інтелект може збільшити рівень затримок лікування або самолікування без керівництва лікарів.

Професор Вікторія Цорціу Браун, голова Королівського коледжу лікарів загальної практики у Великій Британії, попередила, що використання штучного інтелекту замість особистих медичних оглядів буде «серйозно тривожним». За її словами, штучний інтелект може надавати швидкі відповіді, але не може замінити фізичні огляди, оцінку історії хвороби, розпізнавання ледь помітних ознак або прийняття клінічних рішень на основі доказів. «Інформація, яку надає штучний інтелект, може бути неточною, оманливою або не мати вирішального контексту», – наголосила вона.

За словами експертів, більшість чат-ботів сьогодні побудовані на моделі великої мови (LLM), яка в першу чергу розроблена для створення природних розмов і прагне «догоджати» користувачам. Це призводить до того, що штучний інтелект схильний погоджуватися з тим, хто ставить запитання, а не сперечатися чи ставити додаткові запитання для перевірки точності. Поряд з цим, постановка запитань також може збити чат-бота зі шляху.

В одному задокументованому випадку чат-бот спочатку попередив користувача про невиконання медичної процедури вдома, але потім надав детальні покрокові інструкції. За словами доктора Моніки Агравал, експерта з Університету Дьюка, справжній лікар негайно завершив би розмову, замість того, щоб продовжувати давати небезпечні вказівки.

За словами дослідників, ШІ особливо важко працює в ситуаціях з обмеженими даними або кількома можливими діагнозами. Експерти також попереджають, що чат-боти ШІ вразливі до дезінформації в інтернеті. В експерименті 2024 року дослідники створили фальшиву хворобу під назвою «біксоніманія», а потім опублікували в Інтернеті серію сфабрикованих документів. Всього через кілька тижнів багато чат-ботів почали називати цю неіснуючу хворобу справжнім медичним діагнозом.

Хоча штучний інтелект може бути корисним інструментом для доступу до базових медичних знань, пояснення спеціалізованої літератури або використання як початковий довідник перед візитом до лікаря, експерти наголошують, що ця технологія має бути лише допоміжним інструментом і не може замінити медичних працівників. Дослідники також закликають до якнайшвидшого створення незалежних регуляторних та верифікаційних механізмів для забезпечення безпеки користувачів.

    Джерело: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994