כאשר צ'אטבוטים נכנסים לחיים האמיתיים.

התפטרותו של מאמן הבייסבול יומיורי ג'איינטס, שינוסוקה אבה, לאחר מעצרו באשמת תקיפת בתו, עמדה במוקד תשומת הלב הציבורית ביפן בימים האחרונים. מלבד המוניטין של המעורב, המקרה משך תשומת לב גם בשל פרט ראוי לציון: לפני שהרשויות התערבו, בתו של המאמן פנתה לייעוץ מצ'אטבוט הבינה המלאכותית ChatGPT.

משיחות עם צ'אטבוטים ועד לאירועים שנויים במחלוקת ביפן.

  על פי החוקרים, התקרית התרחשה בביתו של שינוסוקה אבה בשיבויה וורד, טוקיו. בזמן ששתי בנותיו התווכחו, כוכב הבייסבול לשעבר התערב, על פי הדיווחים, כדי למנוע מהן להמשיך את הסכסוך ביניהן.

עם זאת, המצב הסלים במהירות כאשר הבת הבכורה הגיבה. בהתקף זעם, אייב לכאורה תפס אותה בצווארונה והשליך אותה ארצה. למרות שהילדה לא נפצעה, התקרית הובילה לאחר מכן להתערבות המשטרה ולמעצרו בביתו.

מה שמשך במיוחד את תשומת הלב הציבורית לא היה הקטטה עצמה, אלא האופן שבו התגלה האירוע.

בתו בת ה-18 של מאמן יומיורי ג'איינטס, שינוסוקה אבה, אמרה כי ביקשה עצה מצ'אטבוט הבינה המלאכותית ChatGPT לפני שדיווחה על האירוע לסוכנות ייעוץ לילדים.

על פי המכתב שפורסם מאוחר יותר, בתו בת ה-18 של אייב לא ביקשה בתחילה עזרה מקרובי משפחה, חברים או רשויות. במקום זאת, היא בחרה לשוחח עם ChatGPT כדי לברר לגבי המצב בו היא מתמודדת.

לפי דבריה של הנערה, הצ'אטבוט מבוסס הבינה המלאכותית הציע לה לפנות למרכזי ייעוץ לילדים באופן אנונימי. לאחר מכן היא התקשרה למרכז ייעוץ לילדים כדי לבקש עצה.

עם קבלת המידע, מומחים במרכז העריכו את המקרה כמקרה הדורש טיפול דחוף ופנו מיד למשטרה. הרשויות הגיעו במהירות למקום, מה שהוביל למעצרו של המאמן המפורסם.

למרות שההחלטה הסופית נתונה בידי המשתמשים והרשויות, אירוע זה מראה שבינה מלאכותית כיום אינה עוד רק כלי לאחזור מידע או סיוע בעבודה. עם יכולתה לקיים דיאלוג טבעי, לספק תגובות כמעט מיידיות ולפעול ברציפות 24 שעות ביממה, צ'אטבוטים הופכים בהדרגה למקום המועדף על אנשים רבים כאשר הם צריכים לשתף או לחפש עצה בנושאים אישיים, במקום חברים, משפחה או רשויות.

כאשר בינה מלאכותית הופכת ל"מנטור" עבור צעירים.

על פי סקר של ועדת הצרכנות של משרד הקבינט של יפן, מספר גדל והולך של בני נוער משתמשים בתוכן שנוצר על ידי בינה מלאכותית כדי לחפש ייעוץ בנושאים הקשורים לחיים.

איסאו אצ'יזן, מומחה אבטחת מידע במכון הלאומי לאינפורמטיקה ביפן, טוען כי התגובות של מודלים של בינה מלאכותית שיחתית כמו ChatGPT יכולות להשתנות באופן משמעותי בהתאם לאופן שבו משתמשים שואלים שאלות ולכמות המידע המסופקת.

לדבריו, במקרה של בתו של שינוסוקה אבה, מערכת הבינה המלאכותית הציעה הצעה ישירה למדי ליצור קשר עם מרכז ייעוץ לילדים. עם זאת, הבינה המלאכותית יכולה לעבד רק מידע שסופק על ידי המשתמש וחסרה לה את היכולת להבין באופן מלא את ההקשר כמו בני משפחה או כאלה שהיו עדים ישירות לאירוע.

מר אצ'יזן טען כי דיון בנושא עם בני משפחה או אלו המכירים את הנסיבות הספציפיות היה אפשרות טבעית ומתאימה יותר.

מומחה זה גם הודה כי יצירת בינה מלאכותית היא כלי נוח וכי ההסתמכות של צעירים עליו היא מגמה מובנת. עם זאת, הוא הרתיע תלמידי חטיבות ביניים ותלמידי חטיבות ביניים משימוש פעיל בטכנולוגיה זו עקב הסיכון להסתמכות יתר על תגובות שנוצרות על ידי מכונה.

אחד הסיכונים הגדולים ביותר, לדבריו, הוא שמשתמשים נוטים לתת אמון מוחלט במה שהבינה המלאכותית מספקת. עם הרחבת הידע של בינה מלאכותית, החל מסיוע בלמידה וכתיבת חיבורים ועד ייעוץ בנושאים אישיים, בניית היכולת לחשוב באופן עצמאי ולהעריך מידע חשובה מתמיד.

סקר של משרד הקבינט של יפן גילה כי יותר ממחצית מהנערות בגילאי 10 עד 19 שנשאלו אמרו שהן השתמשו בתוכן שנוצר על ידי בינה מלאכותית כדי לחפש ייעוץ בנוגע לבעיות העומדות בפניהן.

לדברי מר אצ'יזן, ילדים רבים פונים לבינה מלאכותית משום שהם מתקשים לשתף את רגשותיהם עם הוריהם או קרוביהם. בינתיים, מערכות בינה מלאכותית נועדו ליצור תחושת אמפתיה והבנה, מה שמקל על המשתמשים לבנות אמון.

הוא הדגיש כי הגנה על ילדים מפני סכנות התלות בבינה מלאכותית אינה רק עניין של שליטה בטכנולוגיה, אלא גם מתחילה באימון יכולתם להבחין בין טוב לרע, חשיבה ביקורתית ועידוד אינטראקציה ישירה עם בני אדם מגיל צעיר. "האנשים סביבם צריכים לעזור לילדים להבין שבינה מלאכותית לא תמיד צודקת", אמר.

לכן, מקרה שינוסוקה אבה הוא יותר מסתם סיפור של סכסוך משפחתי המוביל לתוצאות משפטיות בלתי מכוונות. באופן רחב יותר, הוא משקף מציאות הולכת וגדלה בחברה המודרנית: בינה מלאכותית הופכת נפוצה יותר ויותר בחיי היומיום, והופכת לחלק בלתי נפרד מהאופן שבו אנשים מחפשים מידע, ייעוץ ומקבלים החלטות חשובות בחיים.

מרכזי ייעוץ והדרכה לילדים ביפן, שהוקמו במסגרת חוק רווחת הילד, אחראים לקבל דיווחים הנוגעים לילדים מתחת לגיל 18, כולל מקרים חשודים של התעללות.

נכון לאפריל השנה, ביפן יש 243 מרכזים כאלה ברחבי הארץ, המאוישים על ידי אנשי מקצוע, ביניהם עובדי רווחה, פסיכולוגים, רופאים ועובדי בריאות קהילתיים.

אחד הכלים החשובים ביותר של המערכת הוא קו החם 189, הפועל מאז 2015. השם "איצ'י-היה-קו" פירושו "מהר" או "מיד", ומעודד אנשים לדווח על מקרים של ילדים בסיכון בהקדם האפשרי. עם קבלת שיחה, הקו החם מזהה את מיקום המתקשר ומחבר אותו למרכז ייעוץ לילדים הקרוב ביותר כדי להעריך את חומרת המצב ולקבוע אמצעי התערבות מתאימים.

מקור: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/khi-chatbot-buoc-vao-doi-thuc-1042130