Эксперты предостерегают от использования медицинских советов ИИ

Согласно исследованиям, все больше пациентов приходят в клиники с заранее сформированными решениями, часто основанными на диагнозах или планах лечения, предложенных инструментами ИИ.

По данным репортера VNA в Оттаве, новое исследование показывает, что искусственный интеллект (ИИ) может давать убедительные медицинские советы, однако медицинские эксперты обеспокоены тем, что чрезмерное доверие пациентов к ИИ приведет к тому, что они упустят важные возможности обсудить состояние своего здоровья с врачами, не говоря уже о последствиях возможной постановки ИИ неточных диагнозов.

Исследование, проведенное учеными из Университета Британской Колумбии (UBC), выявило удивительный результат: большие языковые модели (LLM), такие как ChatGPT, не только предоставляют информацию, но и общаются более убедительно и приятно, чем реальные люди.

Доктор Веред Шварц, доцент кафедры компьютерных наук в Университете Британской Колумбии, отметил, что разговоры с ИИ иногда кажутся более убедительными и эмпатичными, чем личные беседы с настоящими врачами. Чат-боты на базе ИИ теперь обладают интонацией, похожей на человеческую, и ведут себя уверенно, что повышает вероятность того, что люди будут убеждены.

Согласно исследованию, все больше пациентов приходят в клиники с заранее сформированными решениями, часто основанными на диагнозах или планах лечения, предложенных инструментами ИИ.

Доктор Кассандра Стиллер-Молдован, семейный врач из Колвуда (Британская Колумбия, Канада), отметила, что зачастую советы чат-ботов на основе искусственного интеллекта верны, но не отражают проблему в полной мере, поэтому врачам приходится тратить много времени на объяснения и убеждение пациентов.

Проблема еще больше усугубляется другим исследованием из Университета Ватерлоо (также в Канаде), которое показало, что при диагностике проблем со здоровьем чат-боты на основе искусственного интеллекта, такие как ChatGPT версии 4, выдают больше ложной информации, чем верной.

В частности, когда исследователи задали ряд открытых вопросов, только 31% ответов ChatGPT были признаны полностью правильными.

Канадская медицинская ассоциация (CMA) утверждает, что растущая зависимость от ИИ понятна, учитывая, что многие канадцы не имеют доступа к семейным врачам и сталкиваются с длительным ожиданием приема.

Многие люди, с нетерпением ожидая ответа, обратились к инструментам ИИ в качестве альтернативного решения./.

(TTXVN/Вьетнам+)

Источник: https://www.vietnamplus.vn/chuyen-gia-khuyen-cao-can-trong-voi-loi-khuyen-y-te-cua-ai-post1069996.vnp