ייעוץ רפואי המופעל על ידי בינה מלאכותית: פוטנציאל לסיכונים בלתי צפויים.

סקר חדש שנערך בבריטניה מראה כי אחד מכל שבעה אנשים משתמש בצ'אטבוטים מבוססי בינה מלאכותית לקבלת ייעוץ בריאותי במקום לפנות לרופא. מגמה זו משקפת את המשיכה הגוברת של בינה מלאכותית בתחום הבריאות, אך גם מעלה חששות לגבי הסיכון לאבחון שגוי, ייעוץ לא בטוח ותפקידם המצטמצם של אנשי מקצוע בתחום הבריאות.

בינה מלאכותית הופכת בהדרגה ל"רופא מקוון".

ההתפתחות המהירה של צ'אטבוטים מבוססי בינה מלאכותית כמו ChatGPT, Gemini ו-Claude משנה את האופן שבו אנשים ניגשים למידע רפואי . בעזרת מספר שורות שאלות בלבד, משתמשים יכולים לקבל תשובות כמעט מיידיות לגבי תסמינים, תרופות, מחלות או בריאות נפשית מבלי להזדקק לתאם תורים או להמתין בבתי חולים.

סקר של קינגס קולג' לונדון בקרב למעלה מ-2,000 איש בבריטניה מצא כי יותר מ-15% השתמשו בצ'אטבוטים מבוססי בינה מלאכותית כדי לשאול שאלות על בעיות בריאות במקום להתייעץ עם רופא כללי או עם מערכת הבריאות הציבורית של שירות הבריאות הלאומי (NHS).

מעבר לבעיות פיזיות, בינה מלאכותית משמשת רבים גם לתמיכה בבריאות הנפש. כ-10% מהנשאלים דיווחו על שימוש בצ'אטבוטים כדי לפנות לתמיכה בבריאות הנפש במקום אנשי מקצוע מיומנים. מומחים רואים בכך סימן מדאיג, שכן בינה מלאכותית הופכת יותר ויותר ל"קו הקשר הראשון" עבור בעיות בריאותיות רבות.

בעזרת מספר שורות שאלות בלבד, משתמשים יכולים לקבל תשובות כמעט מיידיות לגבי תסמינים, תרופות, מחלות או בריאות נפשית מצ'אטבוטים מבוססי בינה מלאכותית. (תמונה: nationalhealthexecutive.com)

על פי המחקר, נוחות היא הסיבה הנפוצה ביותר שבגללה אנשים פונים לבינה מלאכותית. כמעט מחצית מהמשתתפים אמרו שצ'אטבוטים עוזרים להם לגשת למידע מהר יותר ובקלות רבה יותר. רבים אחרים משתמשים בבינה מלאכותית מתוך סקרנות לגבי טכנולוגיה חדשה או משום שאינם בטוחים אם מצבם חמור מספיק כדי לדרוש פנייה לרופא.

פרופסור גרהם לורד, המחבר הראשי של המחקר, ציין כי התפשטות הצ'אטבוטים יוצרת "מערכת בריאות מבוססת בינה מלאכותית שאינה מוסדרת במקביל למערכת הבריאות הציבורית". לדבריו, בינה מלאכותית משנה במהירות את האופן שבו אנשים ניגשים לשירותי בריאות, אך הדבר כרוך בבעיות מרכזיות הקשורות לאמינות, בטיחות ואחריות.

מגמה זו אינה מוגבלת לבריטניה; היא גם גדלה במהירות במדינות רבות. בארה"ב, סקר של מרכז West Health-Gallup בנושא שירותי בריאות, שכלל כ-5,600 מבוגרים, גילה כי אחד מכל ארבעה אנשים משתמש בצ'אטבוטים כדי לחפש מידע או ייעוץ הקשורים לבריאות. כ-14% דיווחו שלא פנו לרופא לאחר שקיבלו מידע מבינה מלאכותית.

סיכונים בלתי צפויים

יחד עם הפופולריות הגוברת שלהם מגיעות שלל אזהרות לגבי הסיכונים הבלתי צפויים של עצות שגויות או מסוכנות מצ'אטבוטים מבוססי בינה מלאכותית. מחקרים רבים אחרונים מראים שצ'אטבוטים מבוססי בינה מלאכותית אכן יכולים לספק אבחנות לא מדויקות או עצות שעלולות להזיק למשתמשים, במיוחד במצבים רפואיים מורכבים או במצבים חסרי נתונים.

במחקר שפורסם ב-JAMA Network Open על ידי צוות מחברים ממערכת הבריאות של אוניברסיטת מסצ'וסטס ג'נרל בריגהאם, מדענים ביקשו מ-21 מודלים של בינה מלאכותית "למלא את תפקיד הרופאים" כדי להתמודד עם מצבים רפואיים היפותטיים. התוצאות הראו כי צ'אטבוטים לעתים קרובות מיהרו להגיע למסקנות במקום לשמור על ספק ולהמשיך לנתח כמו רופאים אמיתיים. המחקר גילה כי צ'אטבוטים אלה אבחנו באופן שגוי 80% מהמקרים.

בינתיים, תוצאות מחקר נוסף שפורסם ב-BMJ Open, שבדק חמישה צ'אטבוטים מבוססי בינה מלאכותית עם 250 שאלות הקשורות לסרטן, חיסונים, תזונה ונושאים בריאותיים אחרים המועדים למידע שגוי, הראו ששיעור התשובות הנכונות היה קצת יותר מ-50%, בעוד שכ-20% מהתשובות השגויות נחשבו כמזיקות פוטנציאליות אם יבוצעו. ניקולס טילר, מחבר שותף של המחקר, אמר שהדבר המדאיג ביותר הוא שבינה מלאכותית עונה לעתים קרובות במידה גבוהה של ביטחון גם כשהיא טועה. "אם מישהו פועל לפי העצה הזו, יש סיכוי גבוה שהוא ייפגע", אמר.

הבעיה המדאיגה ביותר היא שאנשים רבים מתחילים לראות בצ'אטבוטים רופאים אמיתיים. על פי סקר של קינגס קולג' לונדון, כ-20% מהאנשים שהשתמשו בבינה מלאכותית אמרו שתגובת הצ'אטבוט גרמה להם לחשוב שהם לא צריכים לפנות לרופא או לאיש מקצוע רפואי. כמעט רבע אף אמרו שהחליטו לא לפנות לרופא לאחר שקראו את תגובת הבינה המלאכותית.

נתונים אלה הובילו מומחים לדאוג כי בינה מלאכותית עלולה להגביר את שיעור העיכובים בטיפול או טיפול עצמי ללא הנחיית רופאים.

פרופסור ויקטוריה צורטציו בראון, יו"ר המכללה המלכותית לרופאי משפחה בבריטניה, הזהירה כי יהיה זה "מדאיג מאוד" אם אנשים ישתמשו בבינה מלאכותית במקום בבדיקות רפואיות פנים אל פנים. לדבריה, בינה מלאכותית יכולה לספק תשובות מהירות אך אינה יכולה להחליף בדיקות גופניות, הערכת היסטוריה רפואית, זיהוי סימנים עדינים או קבלת החלטות קליניות מבוססות ראיות. "המידע שהבינה המלאכותית מספקת עשוי להיות לא מדויק, מטעה או חסר הקשר מכריע", הדגישה.

על פי מומחים, רוב הצ'אטבוטים כיום בנויים על מודל השפה הגדולה (LLM), שנועד בעיקר ליצור שיחות טבעיות ונוטה "לרצות" משתמשים. זה גורם לבינה מלאכותית להסכים עם השואל במקום להתווכח או לשאול שאלות נוספות כדי לבדוק את הדיוק. יחד עם זאת, שאילת שאלות יכולה גם להוביל את הצ'אטבוט למצב לא נכון.

במקרה מתועד אחד, הצ'אטבוט הזהיר בתחילה את המשתמש מפני ביצוע הליך רפואי בבית, אך לאחר מכן סיפק הוראות מפורטות, שלב אחר שלב. לדברי ד"ר מוניקה אגרוואל, מומחית מאוניברסיטת דיוק, רופא אמיתי היה מסיים את השיחה מיד במקום להמשיך לתת הוראות מסוכנות.

לדברי חוקרים, בינה מלאכותית מתקשה במיוחד במצבים עם נתונים מוגבלים או אבחנות אפשריות מרובות. מומחים מזהירים גם כי צ'אטבוטים המבוססים על בינה מלאכותית פגיעים למידע שגוי באינטרנט. בניסוי משנת 2024, חוקרים יצרו מחלה מזויפת בשם "ביקסונימניה" ולאחר מכן פרסמו סדרה של מסמכים מפוברקים באינטרנט. שבועות ספורים לאחר מכן, צ'אטבוטים רבים החלו לצטט את המחלה הלא קיימת הזו כאבחנה רפואית אמיתית.

בעוד שבינה מלאכותית יכולה להיות כלי שימושי בגישה לידע רפואי בסיסי, בהסבר ספרות ייעודית או כמקור מידע ראשוני לפני ביקור אצל רופא, מומחים מדגישים כי טכנולוגיה זו צריכה להיות רק כלי תמיכה ואינה יכולה להחליף אנשי מקצוע רפואיים. חוקרים קוראים גם להקמה מוקדמת של מנגנוני רגולציה ואימות עצמאיים כדי להבטיח את בטיחות המשתמשים.

מקור: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994