인공지능은 점차 '온라인 의사'로 거듭나고 있다.

ChatGPT, Gemini, Claude와 같은 AI 챗봇의 빠른 발전은 사람들이 의료 정보를 얻는 방식을 바꾸고 있습니다. 몇 줄의 질문만으로 사용자는 진료 예약을 하거나 병원에서 기다릴 필요 없이 증상, 약물, 질병 또는 정신 건강에 대한 답변을 거의 즉각적으로 얻을 수 있습니다.

킹스 칼리지 런던이 영국인 2,000명 이상을 대상으로 실시한 설문조사에 따르면, 15% 이상이 일반의나 NHS 공공 의료 시스템을 이용하는 대신 AI 챗봇을 이용해 건강 문제에 대해 문의한 것으로 나타났습니다.

신체적인 문제 외에도, 많은 사람들이 정신 건강 관리를 위해 AI를 활용하고 있습니다. 조사 대상자의 약 10%는 전문가 대신 챗봇을 통해 정신 건강 상담을 받았다고 답했습니다. 전문가들은 AI가 다양한 건강 문제에 대한 "최초 접촉 창구"로 자리 잡고 있다는 점에서 이를 우려스러운 신호로 보고 있습니다.

사용자는 몇 줄의 질문만으로 AI 챗봇을 통해 증상, 약물, 질병 또는 정신 건강에 대한 거의 즉각적인 답변을 받을 수 있습니다. (이미지: nationalhealthexecutive.com)

연구에 따르면 사람들이 인공지능(AI)을 이용하는 가장 일반적인 이유는 편리성입니다. 참가자의 거의 절반이 챗봇 덕분에 정보를 더 빠르고 쉽게 얻을 수 있다고 답했습니다. 그 외에도 많은 사람들이 새로운 기술에 대한 호기심이나 자신의 상태가 의사의 진료가 필요할 정도로 심각한지 확신이 서지 않아 AI를 사용합니다.

이번 연구의 주저자인 그레이엄 로드 교수는 챗봇의 확산이 "공공 의료 시스템과 병행하여 규제되지 않는 AI 기반 의료 시스템"을 만들어내고 있다고 지적했습니다. 그는 AI가 사람들이 의료 서비스를 이용하는 방식을 빠르게 변화시키고 있지만, 신뢰성, 안전성, 책임성과 관련된 중대한 문제점을 수반한다고 강조했습니다.

이러한 추세는 영국에만 국한된 것이 아닙니다. 많은 국가에서 빠르게 증가하고 있습니다. 미국에서는 웨스트헬스-갤럽 센터가 약 5,600명의 성인을 대상으로 실시한 의료 서비스 관련 설문조사에서 응답자 4명 중 1명이 챗봇을 이용해 건강 관련 정보나 조언을 구하는 것으로 나타났습니다. 또한, 약 14%는 AI로부터 정보를 얻은 후 의사를 만나지 않았다고 답했습니다.

예측할 수 없는 위험

인공지능 챗봇의 인기가 높아짐에 따라, 잘못되거나 위험한 조언을 제공할 수 있다는 예측 불가능한 위험성에 대한 경고도 잇따르고 있습니다. 최근 여러 연구에 따르면 인공지능 챗봇은 특히 복잡한 의료 상황이나 데이터가 부족한 상황에서 부정확한 진단이나 잠재적으로 해로운 조언을 사용자에게 제공할 수 있는 것으로 나타났습니다.

매사추세츠 종합병원 브리검 의료 시스템 소속 연구진이 JAMA Network Open에 발표한 연구에서, 과학자들은 21개의 AI 모델에게 가상의 의료 상황을 처리하는 "의사 역할"을 수행하도록 요청했습니다. 그 결과, 챗봇은 실제 의사처럼 의심을 품고 분석을 지속하기보다는 성급하게 결론을 내리는 경향이 있는 것으로 나타났습니다. 이 연구는 챗봇이 80%의 사례에서 오진을 내렸다는 사실을 밝혀냈습니다.

한편, BMJ Open에 발표된 또 다른 연구 결과에 따르면 암, 백신, 영양 및 기타 잘못된 정보가 퍼지기 쉬운 건강 관련 주제 250개에 대해 5개의 AI 챗봇을 테스트한 결과, 정답률은 50%를 조금 넘는 수준이었고, 잘못된 답변 중 약 20%는 따를 경우 잠재적으로 해로울 수 있는 것으로 나타났습니다. 이 연구의 공동 저자인 니콜라스 틸러는 가장 우려스러운 점은 AI가 잘못된 답변조차도 높은 확신을 가지고 내놓는 경우가 많다는 것이라고 말했습니다. 그는 "누군가가 그러한 조언을 따른다면, 해를 입을 가능성이 매우 높다"고 경고했습니다.

가장 우려스러운 점은 많은 사람들이 챗봇을 진짜 의사로 여기기 시작했다는 것입니다. 킹스 칼리지 런던의 설문조사에 따르면, AI를 사용해 본 사람들의 약 20%가 챗봇의 답변을 듣고 의사나 의료 전문가를 만날 필요가 없다고 생각했다고 답했습니다. 심지어 거의 4분의 1은 AI의 답변을 읽고 의사를 만나지 않기로 결정했다고 밝혔습니다.

이러한 수치로 인해 전문가들은 AI가 치료 지연이나 의사의 지도 없이 자가 치료를 하는 비율을 높일 수 있다고 우려하고 있습니다.

영국 왕립 일반의사협회 회장인 빅토리아 초르치우 브라운 교수는 사람들이 대면 진료 대신 인공지능(AI)을 사용하는 것은 "심각한 우려"를 불러일으킬 수 있다고 경고했습니다. 그녀에 따르면 AI는 신속한 답변을 제공할 수 있지만 신체 검사, 병력 평가, 미묘한 징후 파악, 근거 기반 임상 의사 결정 등을 대체할 수는 없습니다. 브라운 교수는 "AI가 제공하는 정보는 부정확하거나 오해의 소지가 있거나 중요한 맥락이 부족할 수 있다"고 강조했습니다.

전문가들에 따르면, 오늘날 대부분의 챗봇은 주로 자연스러운 대화를 생성하고 사용자를 만족시키는 데 중점을 두는 대규모 언어 모델(LLM)을 기반으로 구축됩니다. 이로 인해 AI는 질문자의 의견에 동의하는 경향이 강해지고, 반박하거나 정확성을 확인하기 위한 추가 질문을 하지 않는 경우가 많습니다. 또한, 질문을 하는 것 자체가 챗봇을 잘못된 방향으로 이끌 수도 있습니다.

한 사례에서 챗봇은 처음에는 사용자에게 자가 의료 시술을 하지 말라고 경고했지만, 이후에는 자세한 단계별 지침을 제공했습니다. 듀크 대학교의 전문가인 모니카 아그라왈 박사에 따르면, 실제 의사라면 위험한 지침을 계속 제공하기보다는 즉시 대화를 종료했을 것입니다.

연구자들에 따르면, 인공지능은 특히 데이터가 부족하거나 여러 가지 가능한 진단이 있는 상황에서 어려움을 겪습니다. 전문가들은 또한 인공지능 챗봇이 인터넷상의 잘못된 정보에 취약하다고 경고합니다. 2024년 한 실험에서 연구자들은 "빅소니매니아(bixonimania)"라는 가상의 질병을 만들어 온라인에 조작된 문서를 게시했습니다. 불과 몇 주 만에 많은 챗봇들이 이 존재하지 않는 질병을 실제 질병 진단으로 인용하기 시작했습니다.

인공지능은 기본적인 의학 지식을 얻거나 전문 문헌을 설명하거나 의사 진료 전 초기 참고 자료로 활용하는 데 유용한 도구가 될 수 있지만, 전문가들은 이러한 기술이 의료 전문가를 대체할 수 없는 보조 도구일 뿐이라고 강조합니다. 연구자들은 또한 사용자 안전을 보장하기 위해 독립적인 규제 및 검증 메커니즘을 조속히 구축해야 한다고 촉구합니다.

    출처: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994