ChatGPT ו-DeepSeek מעוותים נתונים מדעיים.

קבוצת חוקרים בגרמניה פרסמה לאחרונה אזהרה מפני פוטנציאל להטיה בשימוש בצ'אטבוטים מבוססי בינה מלאכותית לקיצור תוכן מחקר. לאחר ניתוח של 4,900 תקצירים מדעיים שנכתבו על ידי בני אדם, הקבוצה השתמשה במודלים שונים של בינה מלאכותית כדי להשוות כיצד מערכות אלו עיבדו מידע. התוצאות הראו שרוב הצ'אטבוטים עשו את הטעות של הכללה יתרה, אפילו כאשר התבקשו לסכם במדויק.

מה-זה-צ'אטבוט-AI.jpg

בינה מלאכותית יכולה בקלות לעוות את התוכן בעת סיכום מחקר מדעי.

בניסויים, מודלים של בינה מלאכותית עשו פי חמישה יותר טעויות מאשר חוקרים אנושיים כאשר לא הונחו. אפילו עם דרישות ברורות לדיוק, שיעור השגיאות עדיין היה גבוה פי שניים מאשר בסיכום סטנדרטי. אחד מחברי צוות המחקר העיר, "הכללה עשויה להיראות לא מזיקה לעיתים, אך היא למעשה משנה את אופי המחקר המקורי. זוהי הטיה מערכתית."

ראוי לציין שגרסאות חדשות יותר של צ'אטבוטים לא רק שלא מצליחות לטפל בבעיה, אלא אף מחריפות אותה. עם הגשתן החלקה והמרתקת, סיכומים שנוצרו על ידי בינה מלאכותית נותנים בקלות רושם של אמינות, בעוד שהתוכן בפועל מעוות. במקרה אחד, DeepSeek שינתה את הביטוי "בטוח וניתן ליישום בהצלחה" ל"טיפול בטוח ויעיל" - פרשנות שסטתה ממסקנות המחקר המקוריות.

אולי יעניין אותך גם

פענוח מהפכת הבינה המלאכותית בחינוךבינה מלאכותית (AI) מציפה את כיתות הלימוד בגל גאות ושפל, והופכת אולמות הרצאות לשטחי ניסוי למוצרי טכנולוגיה גדולים.

[גלריה] טושיבה מתחרטת על מכירת שבבי זיכרון לפני פריחת הבינה המלאכותית של טריליון דולר.לאחר שבעבר מכרה את עסקי שבבי הזיכרון והאנרגיה הגרעינית שלה כדי להתמודד עם המשבר, טושיבה חווה כעת פריחה חזקה בשני המגזרים הללו הודות לגל הבינה המלאכותית העולמי.

תשתית התקשורת מאיצה: הכיסוי מגיע לכמעט 100% מהכפרים והיישובים הקטנים, מה שמגביר את הטרנספורמציה הדיגיטלית.בששת החודשים הראשונים של 2026, מגזר התקשורת של וייטנאם רשם תוצאות יוצאות דופן רבות, החל מהרחבת כיסוי סלולרי, פיתוח תשתית מרכזי נתונים, פיילוט אינטרנט לווייני ועד הידוק הניהול של מנויי סלולר.

בדוגמה נוספת, מודל ה-Llama יישם המלצות לתרופות לסוכרת על נבדקים צעירים מבלי לציין מינון, תדירות או תופעות לוואי. אם הקורא, רופא או איש מקצוע בתחום הבריאות , אינו מאמת את המחקר המקורי, סיכומים מסוג זה עלולים להוות סכנה ישירה לחולים.

מומחים מאמינים שתופעה זו נובעת מהאופן שבו מודלים של בינה מלאכותית מאומנים. צ'אטבוטים רבים כיום מאומנים באמצעות נתונים משניים - כמו חדשות מדעיות המיוצרות בהמוניהם - שכבר פושטו. ככל שהבינה המלאכותית ממשיכה לסכם תוכן פשוט זה, הסיכון לעיוות גובר.

מומחי בינה מלאכותית בתחום בריאות הנפש טוענים כי יש לקבוע בקרוב מחסומים טכניים לפיתוח ולשימוש בבינה מלאכותית.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

על המשתמשים להיזהר מכיוון שצ'אטבוטים יכולים בקלות לעוות תוכן.

ככל שמשתמשים מסתמכים יותר ויותר על צ'אטבוטים מבוססי בינה מלאכותית כדי ללמוד מידע מדעי, אי דיוקים קטנים בפרשנות יכולים להצטבר ולהתפשט במהירות, מה שמוביל לתפיסות מוטעות נרחבות. בתקופה שבה האמון במדע יורד, סיכון זה מדאיג במיוחד ודורש תשומת לב ראויה.

ארצות הברית - וייטנאם: אל תפספסו

משרד החוץ קיבל עותק של כתב האמנה של שגריר ארה"ב בווייטנאם.אחר הצהריים של ה-2 ביולי, במטה משרד החוץ, קיבל מר לה קונג דונג, מנהל מחלקת הפרוטוקול והפרשנות לחוץ, עותק של כתב האמנה מגב' ג'ניפר ויקס, שגרירת ארצות הברית של אמריקה בווייטנאם.

השגריר נגוין קווק דונג מבקר ועובד במינסוטה, ארה"ב.בין ה-28 ל-30 ביוני, שגריר וייטנאם בארצות הברית, נגוין קווק דונג, ערך ביקור ועבד במינסוטה.

וייטנאם מעודדת עסקים אמריקאים להרחיב את השקעותיהם בטכנולוגיה עילית.בבוקר ה-26 ביוני, במטה הממשלה, קיבל סגן ראש הממשלה הו קוק דונג את פניו של מר ג'ף פלייס, מנהל שרשרת האספקה של קבוצת קוהרנט (ארה"ב). במהלך הפגישה, אישר סגן ראש הממשלה כי וייטנאם מעודדת עסקים אמריקאים להרחיב את ההשקעות, במיוחד בתעשיות ההיי-טק, החדשנות והמוליכים למחצה.

שילוב בינה מלאכותית במחקר ובהפצת ידע הוא מגמה בלתי הפיכה. עם זאת, מומחים טוענים כי טכנולוגיה אינה יכולה להחליף את תפקידם של בני האדם בהבנה ובאימות תוכן מדעי. בעת שימוש בצ'אטבוטים בתחומים בעלי סיכון גבוה כמו שירותי בריאות, יש לתת עדיפות לדיוק, במקום להתמקד אך ורק בחוויית שפה חלקה או במהירות תגובה.

מקור: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html