ИИ делает врачей менее ответственными

Медицинские эксперты и компании годами рекламировали потенциальные преимущества ИИ в медицине: от улучшения визуализации до повышения эффективности диагностики по сравнению с врачами.

Однако новое исследование показало, что всего за несколько месяцев врачи, регулярно использующие ИИ, стали значительно хуже диагностировать заболевания.

Это последнее исследование, демонстрирующее опасность зависимости пользователей от этой технологии. Более раннее исследование Массачусетского технологического института показало, что ChatGPT разрушает навыки критического мышления.

Отсутствие мотивации, плохая концентрация внимания и безответственность

Исследование, опубликованное в журнале Lancet Gastroenterology and Hepatology, показало, что в течение шести месяцев врачи стали чрезмерно полагаться на рекомендации ИИ.

В ходе опроса эти врачи признались, что без поддержки ИИ они сами стали менее мотивированными, менее сосредоточенными и менее ответственными при принятии когнитивных решений.

Чтобы продемонстрировать это, исследователи из нескольких учреждений по всей Европе провели наблюдательное исследование в четырех эндоскопических центрах в Польше, участвующих в программе «Искусственный интеллект в колоноскопии для профилактики рака» (ACCEPT).

В рамках исследования с конца 2021 года эти центры используют инструменты ИИ для обнаружения полипов — опухолей, которые могут быть доброкачественными или раковыми.

В исследование было включено 1443 колоноскопии без использования ИИ из 2177, проведенных в период с сентября 2021 года по март 2022 года. Колоноскопии проводили 19 опытных эндоскопистов.

Затем исследователи сравнили качество колоноскопий, проведённых за три месяца до и после внедрения ИИ. Колоноскопии были случайным образом распределены по группам: с использованием ИИ или без него.

Всего за шесть месяцев врачи стали чрезмерно полагаться на рекомендации ИИ. Фото: national_cancer_institute.

В результате из всех операций, проведённых без помощи ИИ, 795 были проведены до внедрения ИИ в повседневную практику. После применения инструментов ИИ было проведено всего 648 операций.

За три месяца до внедрения ИИ частота выявления аденом (ADR) составляла около 28%. Спустя три месяца после внедрения ИИ этот показатель снизился до всего лишь 22%. ADR является общепринятым показателем качества колоноскопии. Чем выше ADR, тем ниже риск колоректального рака.

В конечном итоге исследование показало, что использование ИИ помогло эндоскопистам поставить более точный диагноз. Однако после прекращения поддержки со стороны этой технологии диагностические навыки врачей резко ухудшились.

Исследователи утверждают, что это связано с «естественной склонностью человека чрезмерно полагаться» на рекомендации систем поддержки принятия решений, таких как ИИ.

Марцин Романчик, соавтор исследования, называет это эффектом Google Карт. «Мы пытаемся куда-то попасть и не можем воспользоваться обычной картой. Это одно и то же», — говорит Романчик.

Предупреждение

Омер Ахмад, гастроэнтеролог из больницы Университетского колледжа Лондона, считает, что воздействие ИИ могло подорвать привычки визуального поиска и модели внимания врачей, которые имеют решающее значение для обнаружения полипов.

«По сути, опора на ИИ для обнаружения заболеваний может затмить возможности человеческого распознавания образов», — сказал Ахмад, добавив, что он обеспокоен тем, что частое использование ИИ может «подорвать уверенность в диагностике» без помощи ИИ.

Другие эксперты более осторожны в своих выводах на основе одного исследования. Венета Османи, профессор клинического искусственного интеллекта и машинного обучения Лондонского университета королевы Марии, отметила, что общее количество колоноскопий увеличилось в ходе исследования, что могло привести к усталости врачей и, как следствие, к снижению показателей выявления заболеваний.

Тем временем Аллан Такер, профессор искусственного интеллекта в Лондонском университете Брунеля, отметил, что с помощью ИИ эффективность работы врачей в целом повысилась.

По словам г-на Такера, опасения по поводу снижения квалификации врачей из-за автоматизации «присущи не только системам искусственного интеллекта и представляют собой риск при внедрении любой новой технологии».

AlphaFold может всего за несколько секунд предсказать структуру всех белков в организме человека. Это имеет огромное значение для лечения. Фото: DeepMind.

В настоящее время около 52% больниц по всему миру в той или иной степени внедрили технологии искусственного интеллекта. В США около 75% больниц используют решения на основе искусственного интеллекта для повышения эффективности работы и качества ухода за пациентами.

Ожидается, что объем мирового рынка ИИ в здравоохранении вырастет с 28 млрд долларов в 2024 году до 188 млрд долларов к 2030 году.

Этот рост происходит в момент, который считается поворотным моментом для отрасли здравоохранения, поскольку тенденция старения населения оказывает сильное влияние на потребности людей в медицинском обслуживании.

Всемирная организация здравоохранения (ВОЗ) подсчитала, что к 2030 году в мире будет не хватать около 10 миллионов врачей, медсестер и работников здравоохранения. В то же время возрастет спрос на услуги здравоохранения.

К этому времени ИИ станет решением, которое поможет медицинским учреждениям по всему миру преодолеть трудности и повысить качество и эффективность медицинских обследований и лечения.

Источник: https://znews.vn/ai-khien-bac-si-thieu-trach-nhiem-hon-post1576844.html