هوش مصنوعی به تدریج در حال تبدیل شدن به یک «پزشک آنلاین» است.
توسعه سریع چتباتهای هوش مصنوعی مانند ChatGPT، Gemini و Claude نحوه دسترسی افراد به اطلاعات پزشکی را تغییر میدهد. کاربران تنها با چند خط سوال میتوانند بدون نیاز به تعیین وقت قبلی یا انتظار در بیمارستان، پاسخهای تقریباً آنی در مورد علائم، داروها، بیماریها یا سلامت روان دریافت کنند.
یک نظرسنجی توسط کالج کینگ لندن از بیش از ۲۰۰۰ نفر در بریتانیا نشان داد که بیش از ۱۵٪ از آنها به جای مشورت با پزشک عمومی یا سیستم بهداشت عمومی NHS، از چتباتهای هوش مصنوعی برای پرسیدن سوالات مربوط به سلامت خود استفاده کردهاند.
فراتر از مسائل جسمی، هوش مصنوعی توسط بسیاری برای حمایت از سلامت روان نیز مورد استفاده قرار میگیرد. تقریباً 10٪ از افراد مورد بررسی گزارش دادند که به جای متخصصان آموزش دیده، از چتباتها برای جستجوی پشتیبانی سلامت روان استفاده میکنند. کارشناسان این را نشانه نگرانکنندهای میدانند، زیرا هوش مصنوعی به طور فزایندهای در حال تبدیل شدن به "خط اول تماس" برای بسیاری از مشکلات سلامتی است.
 |
تنها با چند خط سوال، کاربران میتوانند پاسخهای تقریباً آنی در مورد علائم، داروها، بیماریها یا سلامت روان از چتباتهای هوش مصنوعی دریافت کنند. (تصویر: nationalhealthexecutive.com) |
طبق این مطالعه، راحتی رایجترین دلیل روی آوردن مردم به هوش مصنوعی است. تقریباً نیمی از شرکتکنندگان گفتند که چتباتها به آنها کمک میکنند تا سریعتر و آسانتر به اطلاعات دسترسی پیدا کنند. بسیاری دیگر از روی کنجکاوی در مورد فناوری جدید یا به این دلیل که مطمئن نیستند که آیا بیماری آنها به اندازهای جدی است که نیاز به تماس با پزشک داشته باشد، از هوش مصنوعی استفاده میکنند.
پروفسور گراهام لرد، نویسنده اصلی این مطالعه، خاطرنشان کرد که گسترش چتباتها در حال ایجاد یک «سیستم مراقبتهای بهداشتی مبتنی بر هوش مصنوعی است که به موازات سیستم بهداشت عمومی تنظیم نمیشود.» به گفته وی، هوش مصنوعی به سرعت در حال تغییر نحوه دسترسی مردم به مراقبتهای بهداشتی است، اما این امر با مسائل عمدهای در رابطه با قابلیت اطمینان، ایمنی و پاسخگویی همراه است.
این روند محدود به بریتانیا نیست؛ در بسیاری از کشورها نیز به سرعت در حال افزایش است. در ایالات متحده، یک نظرسنجی توسط مرکز West Health-Gallup در مورد مراقبتهای بهداشتی که شامل تقریباً ۵۶۰۰ بزرگسال بود، نشان داد که از هر چهار نفر، یک نفر از چتباتها برای جستجوی اطلاعات یا توصیههای مرتبط با سلامت استفاده میکند. حدود ۱۴٪ گزارش دادند که پس از دریافت اطلاعات از هوش مصنوعی، به پزشک مراجعه نکردهاند.
خطرات پیشبینی نشده
همراه با محبوبیت روزافزون آنها، هشدارهای زیادی در مورد خطرات غیرقابل پیشبینی توصیههای نادرست یا خطرناک از سوی چتباتهای هوش مصنوعی مطرح میشود. بسیاری از مطالعات اخیر نشان میدهند که چتباتهای هوش مصنوعی میتوانند تشخیصهای نادرست یا توصیههای بالقوه مضری را به کاربران ارائه دهند، به خصوص در شرایط پزشکی پیچیده یا موقعیتهایی که دادهها وجود ندارد.
در مطالعهای که توسط تیمی از نویسندگان سیستم مراقبتهای بهداشتی ماساچوست جنرال بریگام در JAMA Network Open منتشر شد، دانشمندان از ۲۱ مدل هوش مصنوعی خواستند تا «نقش پزشکان» را برای رسیدگی به موقعیتهای پزشکی فرضی ایفا کنند. نتایج نشان داد که چتباتها اغلب به جای حفظ شک و تردید و ادامه تجزیه و تحلیل مانند پزشکان واقعی، به سرعت نتیجهگیری میکنند. این مطالعه نشان داد که این چتباتها ۸۰ درصد موارد را اشتباه تشخیص دادهاند.
در همین حال، نتایج مطالعه دیگری که در BMJ Open منتشر شد، که پنج ربات چت هوش مصنوعی را با ۲۵۰ سوال مربوط به سرطان، واکسنها، تغذیه و سایر مباحث بهداشتی مستعد اطلاعات نادرست آزمایش کرد، نشان داد که میزان پاسخ صحیح کمی بیش از ۵۰٪ بوده است، در حالی که حدود ۲۰٪ از پاسخهای نادرست در صورت پیروی از آنها به طور بالقوه مضر تلقی میشدند. نیکلاس تیلر، یکی از نویسندگان این مطالعه، گفت نگرانکنندهترین نکته این است که هوش مصنوعی اغلب حتی در صورت اشتباه بودن، با درجه بالایی از اطمینان پاسخ میدهد. او گفت: «اگر کسی از این توصیه پیروی کند، احتمال زیادی وجود دارد که به او آسیب برسد.»
نگرانکنندهترین مسئله این است که بسیاری از مردم شروع به دیدن چتباتها به عنوان پزشکان واقعی کردهاند. طبق نظرسنجی کالج کینگ لندن، حدود ۲۰٪ از افرادی که از هوش مصنوعی استفاده کردهاند، گفتهاند که پاسخ چتبات باعث شده فکر کنند نیازی به مراجعه به پزشک یا متخصص پزشکی ندارند. تقریباً یک چهارم آنها حتی گفتند که پس از خواندن پاسخ هوش مصنوعی تصمیم گرفتهاند که به پزشک مراجعه نکنند.
این ارقام باعث شده است که متخصصان نگران باشند که هوش مصنوعی میتواند میزان تأخیر در درمان یا خوددرمانی بدون راهنمایی پزشکان را افزایش دهد.
پروفسور ویکتوریا تزورتزیو براون، رئیس کالج سلطنتی پزشکان عمومی در بریتانیا، هشدار داد که اگر مردم به جای معاینات پزشکی حضوری از هوش مصنوعی استفاده کنند، «به شدت نگرانکننده» خواهد بود. به گفته او، هوش مصنوعی میتواند پاسخهای سریعی ارائه دهد اما نمیتواند جایگزین معاینات فیزیکی، ارزیابی سابقه پزشکی، تشخیص علائم ظریف یا تصمیمگیریهای بالینی مبتنی بر شواهد شود. او تأکید کرد: «اطلاعاتی که هوش مصنوعی ارائه میدهد ممکن است نادرست، گمراهکننده یا فاقد زمینههای مهم باشد.»
به گفته کارشناسان، اکثر چتباتهای امروزی بر اساس مدل زبان بزرگ (LLM) ساخته شدهاند که در درجه اول برای ایجاد مکالمات طبیعی طراحی شده و تمایل به "راضی کردن" کاربران دارد. این امر باعث میشود هوش مصنوعی به جای بحث یا پرسیدن سوالات بیشتر برای بررسی دقت، تمایل به موافقت با سوالکننده داشته باشد. در کنار آن، پرسیدن سوال میتواند چتبات را نیز گمراه کند.
در یک نمونه مستند، این چتبات در ابتدا به کاربر در مورد انجام یک عمل پزشکی در خانه هشدار داد، اما سپس دستورالعملهای گام به گام و دقیقی را ارائه داد. به گفته دکتر مونیکا آگراوال، متخصص دانشگاه دوک، یک پزشک واقعی به جای ادامه دادن به ارائه دستورالعملهای خطرناک، فوراً مکالمه را پایان میداد.
به گفته محققان، هوش مصنوعی به ویژه در موقعیتهایی با دادههای محدود یا تشخیصهای احتمالی متعدد، با مشکل مواجه میشود. کارشناسان همچنین هشدار میدهند که چتباتهای هوش مصنوعی در برابر اطلاعات نادرست در اینترنت آسیبپذیر هستند. در آزمایشی در سال ۲۰۲۴، محققان یک بیماری جعلی به نام «bixonimania» ایجاد کردند و سپس مجموعهای از اسناد ساختگی را به صورت آنلاین منتشر کردند. تنها چند هفته بعد، بسیاری از چتباتها شروع به استناد به این بیماری غیرواقعی به عنوان یک تشخیص پزشکی واقعی کردند.
در حالی که هوش مصنوعی میتواند ابزاری مفید در دسترسی به دانش پایه پزشکی، توضیح متون تخصصی یا به عنوان مرجع اولیه قبل از ویزیت پزشک باشد، کارشناسان تأکید میکنند که این فناوری فقط باید یک ابزار پشتیبانی باشد و نمیتواند جایگزین متخصصان پزشکی شود. محققان همچنین خواستار ایجاد زودهنگام سازوکارهای نظارتی و تأیید مستقل برای اطمینان از ایمنی کاربر هستند.
منبع: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994
نظر (0)