Искусственный интеллект постепенно превращается в «онлайн-врача».

Быстрое развитие чат-ботов на основе искусственного интеллекта, таких как ChatGPT, Gemini и Claude, меняет способы доступа людей к медицинской информации. Всего несколькими строками вопросов пользователи могут получить практически мгновенные ответы о симптомах, лекарствах, заболеваниях или психическом здоровье, без необходимости записываться на прием или ждать в больнице.

Опрос, проведенный Королевским колледжем Лондона среди более чем 2000 жителей Великобритании, показал, что более 15% использовали чат-боты с искусственным интеллектом для получения информации о проблемах со здоровьем вместо обращения к врачу общей практики или в государственную систему здравоохранения Великобритании.

Помимо физических проблем, ИИ также используется многими для поддержки психического здоровья. Примерно 10% опрошенных сообщили, что используют чат-боты для получения помощи в области психического здоровья вместо обращения к квалифицированным специалистам. Эксперты считают это тревожным признаком, поскольку ИИ все чаще становится «первым звеном контакта» при многих проблемах со здоровьем.

Задав всего несколько вопросов, пользователи могут практически мгновенно получить ответы от чат-ботов с искусственным интеллектом о симптомах, лекарствах, заболеваниях или психическом здоровье. (Изображение: nationalhealthexecutive.com)

Согласно исследованию, удобство является наиболее распространенной причиной обращения к ИИ. Почти половина участников заявили, что чат-боты помогают им быстрее и проще получать доступ к информации. Многие другие используют ИИ из любопытства к новым технологиям или потому, что не уверены, достаточно ли серьезно их состояние, чтобы обращаться к врачу.

Профессор Грэм Лорд, ведущий автор исследования, отметил, что распространение чат-ботов создает «систему здравоохранения на основе ИИ, которая не регулируется параллельно с системой общественного здравоохранения». По его словам, ИИ быстро меняет способы доступа людей к медицинской помощи, но это сопряжено с серьезными проблемами, связанными с надежностью, безопасностью и подотчетностью.

Эта тенденция не ограничивается Великобританией; она также быстро распространяется во многих странах. В США опрос, проведенный Центром West Health-Gallup по вопросам здравоохранения среди примерно 5600 взрослых, показал, что каждый четвертый человек использует чат-боты для поиска информации или советов, связанных со здоровьем. Около 14% сообщили, что не обращались к врачу после получения информации от ИИ.

Непредвиденные риски

Наряду с растущей популярностью, появляется множество предупреждений о непредсказуемых рисках, связанных с неверными или опасными советами, которые дают чат-боты на основе ИИ. Многие недавние исследования показывают, что чат-боты на основе ИИ действительно могут давать неточные диагнозы или потенциально опасные советы пользователям, особенно в сложных медицинских ситуациях или ситуациях с недостатком данных.

В исследовании, опубликованном в журнале JAMA Network Open группой авторов из системы здравоохранения Mass General Brigham, ученые попросили 21 модель искусственного интеллекта «сыграть роль врачей», чтобы справиться с гипотетическими медицинскими ситуациями. Результаты показали, что чат-боты часто делали поспешные выводы, вместо того чтобы сохранять сомнения и продолжать анализ, как настоящие врачи. Исследование выявило, что эти чат-боты ставили неверные диагнозы в 80% случаев.

Между тем, результаты другого исследования, опубликованного в BMJ Open, в котором тестировались пять чат-ботов с искусственным интеллектом, отвечавших на 250 вопросов, касающихся рака, вакцин, питания и других тем здравоохранения, подверженных дезинформации, показали, что процент правильных ответов составил чуть более 50%, в то время как около 20% неправильных ответов были признаны потенциально опасными, если им следовать. Николас Тиллер, соавтор исследования, сказал, что больше всего беспокоит то, что ИИ часто отвечают с высокой степенью уверенности, даже если ошибаются. «Если кто-то последует этому совету, высока вероятность того, что ему будет нанесен вред», — сказал он.

Наиболее тревожная проблема заключается в том, что многие люди начинают воспринимать чат-ботов как настоящих врачей. Согласно опросу, проведенному Королевским колледжем Лондона, около 20% людей, использовавших ИИ, заявили, что ответ чат-бота заставил их подумать, что им не нужно обращаться к врачу или другому медицинскому специалисту. Почти четверть даже заявили, что решили не обращаться к врачу после прочтения ответа ИИ.

Эти данные заставили экспертов опасаться, что ИИ может увеличить количество задержек в лечении или случаев самолечения без руководства врачей.

Профессор Виктория Цорциу Браун, председатель Королевского колледжа врачей общей практики в Великобритании, предупредила, что использование ИИ вместо очных медицинских осмотров вызовет «серьезную обеспокоенность». По ее словам, ИИ может давать быстрые ответы, но не может заменить физический осмотр, оценку истории болезни, распознавание едва заметных признаков или принятие клинических решений на основе доказательств. «Информация, предоставляемая ИИ, может быть неточной, вводящей в заблуждение или лишенной важного контекста», — подчеркнула она.

По мнению экспертов, большинство современных чат-ботов построены на основе модели большого языка (LLM), которая в первую очередь предназначена для создания естественных диалогов и стремится «угодить» пользователям. Это приводит к тому, что ИИ склонен соглашаться с задающим вопрос, а не спорить или задавать дополнительные вопросы для проверки точности. Кроме того, задавание вопросов также может сбить чат-бота с толку.

В одном из задокументированных случаев чат-бот сначала предупредил пользователя о недопустимости проведения медицинской процедуры в домашних условиях, а затем предоставил подробные пошаговые инструкции. По словам доктора Моники Агравал, эксперта из Университета Дьюка, настоящий врач немедленно завершил бы разговор, а не продолжал бы давать опасные указания.

По мнению исследователей, ИИ испытывает трудности, особенно в ситуациях с ограниченными данными или множеством возможных диагнозов. Эксперты также предупреждают, что чат-боты на основе ИИ уязвимы для дезинформации в интернете. В эксперименте 2024 года исследователи создали вымышленное заболевание под названием «биксонимания», а затем разместили в сети серию сфабрикованных документов. Всего через несколько недель многие чат-боты начали выдавать это несуществующее заболевание за реальный медицинский диагноз.

Хотя ИИ может быть полезным инструментом для доступа к базовым медицинским знаниям, разъяснения специализированной литературы или в качестве первоначального справочника перед визитом к врачу, эксперты подчеркивают, что эта технология должна быть лишь вспомогательным инструментом и не может заменить медицинских специалистов. Исследователи также призывают к скорейшему созданию независимых механизмов регулирования и проверки для обеспечения безопасности пользователей.

    Источник: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994