בינה מלאכותית הופכת רופאים לפחות אחראים

מחקר חדש מגלה כי רק מספר חודשים לאחר השימוש בבינה מלאכותית, קולונוסקופיסטים ביצעו אבחונים פחות יעילים מאשר ללא עזרת הטכנולוגיה.

במשך שנים, מומחים רפואיים וחברות התבוננו ביתרונות הפוטנציאליים של בינה מלאכותית ברפואה, החל משיפור הדמיה ועד ביצועים טובים יותר של רופאים באבחון.

עם זאת, מחקר חדש מצא כי בתוך חודשים ספורים בלבד, רופאים המשתמשים באופן קבוע בבינה מלאכותית מציגים ביצועים גרועים משמעותית באבחון מחלות.

זהו המחקר האחרון שמדגים את הסכנות הטמונות בהתמכרות של משתמשים לטכנולוגיה זו. מחקר קודם של המכון הטכנולוגי של מסצ'וסטס מצא כי ChatGPT פוגע במיומנויות חשיבה ביקורתית.

חוסר מוטיבציה, ריכוז לקוי וחוסר אחריות

מחקר שפורסם בכתב העת Lancet Gastroenterology and Hepatology מצא כי בתוך שישה חודשים, רופאים הפכו להסתמכים יתר על המלצות של בינה מלאכותית.

בתגובה לסקר, הודו רופאים אלה כי הם עצמם הפכו פחות מוטיבציוניים, פחות ממוקדים ופחות אחראיים בעת קבלת החלטות קוגניטיביות ללא תמיכה של בינה מלאכותית.

כדי להדגים זאת, חוקרים ממוסדות מרובים ברחבי אירופה ערכו מחקר תצפיתי בארבעה מרכזי אנדוסקופיה בפולין שהשתתפו בתוכנית AI in Colonoscopy for Cancer Prevention (ACCEPT).

כחלק מהניסוי, מאז סוף 2021, מרכזים אלה משתמשים בכלים מבוססי בינה מלאכותית כדי לזהות פוליפים, גידולים שיכולים להיות שפירים או סרטניים.

המחקר כלל 1,443 קולונוסקופיות שלא בסיוע בינה מלאכותית, מתוך סך של 2,177 שבוצעו בין ספטמבר 2021 למרץ 2022. הקולונוסקופיות בוצעו על ידי 19 אנדוסקופים מנוסים.

לאחר מכן, החוקרים השוו את איכות הקולונוסקופיות שבוצעו שלושה חודשים לפני ואחרי יישום הבינה המלאכותית. הקולונוסקופיות חולקו באופן אקראי לביצוע עם או בלי סיוע של בינה מלאכותית.

בתוך שישה חודשים בלבד, רופאים הפכו להסתמכים יתר על המלצות של בינה מלאכותית. איור תמונה: national_cancer_institute.

כתוצאה מכך, מתוך הניתוחים שבוצעו ללא סיוע של בינה מלאכותית, 795 בוצעו לפני שהשימוש השגרתי בבינה מלאכותית נעשה בו שימוש שגרתי. לאחר יישום כלי בינה מלאכותית, בוצעו רק 648 ניתוחים.

שלושה חודשים לפני שהוצגה בדיקת AI, שיעור גילוי אדנומות (ADR) עמד על כ-28%. שלושה חודשים לאחר הכנסתה, שיעור זה ירד ל-22% בלבד. ADR הוא מדד איכות נפוץ לקולונוסקופיה. ככל ש-ADR גבוה יותר, כך הסיכון לסרטן המעי הגס נמוך יותר.

בסופו של דבר, המחקר מצא כי בינה מלאכותית סייעה לאנדוסקופים לבצע אבחונים טובים יותר כאשר נעשה בה שימוש. עם זאת, ברגע שהסיוע מטכנולוגיה זו הוסר, כישורי האבחון של הקלינאים הידרדרו מיד.

חוקרים אומרים שזה נובע מ"נטייה אנושית טבעית להסתמך יתר על המלצות של מערכות תומכות החלטה כמו בינה מלאכותית.

מרסין רומנצ'יק, מחבר שותף של המחקר, מכנה זאת אפקט מפות גוגל. "אנחנו מנסים להגיע לאנשהו ואנחנו לא יכולים להשתמש במפה רגילה. זה אותו הדבר", אומר רומנצ'יק.

מילת אזהרה

עומר אחמד, גסטרואנטרולוג בבית החולים יוניברסיטי קולג' לונדון, סבור כי חשיפה לבינה מלאכותית עשויה לפגוע בהרגלי החיפוש החזותי ובדפוסי הקשב של הרופאים, שהם קריטיים לגילוי פוליפים.

"בעיקרון, הסתמכות על בינה מלאכותית לצורך זיהוי יכולה להאפיל על זיהוי תבניות אנושי", אמר אחמד, והוסיף כי הוא חושש ששימוש תכוף בבינה מלאכותית עלול "לפגוע בביטחון האבחוני" ללא סיוע של בינה מלאכותית.

מומחים אחרים נזהרים יותר לגבי הסקת מסקנות ממחקר בודד. ונט אוסמני, פרופסור לבינה מלאכותית קלינית ולמידת מכונה באוניברסיטת קווין מרי בלונדון, אמר כי המספר הכולל של קולונוסקופיות גדל במהלך המחקר, מה שיכל להוביל לעייפות קלינאים, מה שמוביל לשיעורי גילוי נמוכים יותר.

בינתיים, אלן טאקר, פרופסור לבינה מלאכותית באוניברסיטת ברונל בלונדון, ציין כי בעזרת הבינה המלאכותית, ביצועי הרופאים השתפרו באופן כללי.

"חששות לגבי שחיקת כישורי הרופאים עקב אוטומציה "אינם ייחודיים למערכות בינה מלאכותית והם מהווים סיכון בעת ​​הצגת טכנולוגיה חדשה", אמר מר טאקר.

תוך שניות ספורות, AlphaFold יכול לחזות את המבנה של כל החלבונים בגוף האדם. לכך יש יתרונות עצומים לטיפול רפואי. צילום: DeepMind.

נכון לעכשיו, כ-52% מבתי החולים ברחבי העולם יישמו טכנולוגיית בינה מלאכותית בדרגות שונות. בארה"ב, כ-75% מבתי החולים משתמשים בפתרונות מבוססי בינה מלאכותית כדי לשפר את היעילות התפעולית ואת הטיפול בחולים.

גודל שוק הבינה המלאכותית בתחום הבריאות העולמי צפוי לגדול מ -28 מיליארד דולר בשנת 2024 ל -188 מיליארד דולר עד 2030.

צמיחה זו מגיעה בתקופה הנחשבת לנקודת מפנה עבור תעשיית הבריאות, שכן מגמת הזדקנות האוכלוסייה משפיעה רבות על צורכי הבריאות של אנשים.

ארגון הבריאות העולמי (WHO) מעריך כי עד שנת 2030 העולם יחסר כ-10 מיליון רופאים, אחיות ועובדי בריאות. במקביל, הביקוש לשירותי בריאות יגדל.

באותו זמן, בינה מלאכותית תהיה הפתרון שיעזור למתקנים רפואיים ברחבי העולם להתגבר על אתגרים ולשפר את איכות ויעילות הבדיקות והטיפולים הרפואיים.

מקור: https://znews.vn/ai-khien-bac-si-thieu-trach-nhiem-hon-post1576844.html