وقتی چت‌بات‌ها وارد زندگی واقعی می‌شوند

استعفای شینوسوکه آبه، مربی بیسبال تیم یومیوری جاینتز، پس از دستگیری به اتهام حمله به دخترش، در روزهای اخیر مورد توجه عمومی در ژاپن قرار گرفته است. این پرونده علاوه بر شهرت فرد درگیر، به دلیل یک نکته قابل توجه نیز مورد توجه قرار گرفته است: قبل از مداخله مقامات، دختر این مربی از یک چت‌بات هوش مصنوعی به نام ChatGPT مشاوره گرفته بود.

از مکالمات با چت‌بات‌ها گرفته تا حوادث جنجالی در ژاپن.

  به گفته بازرسان، این حادثه در خانه شینوسوکه آبه در شیبویا وارد، توکیو رخ داده است. در حالی که دو دخترش در حال مشاجره بودند، گفته می‌شود که این ستاره سابق بیسبال برای جلوگیری از ادامه درگیری آنها مداخله کرده است.

با این حال، وقتی دختر بزرگتر واکنش نشان داد، اوضاع به سرعت وخیم شد. گفته می‌شود که آبه در اوج عصبانیت، یقه دختر را گرفته و او را به زمین انداخته است. اگرچه دختر آسیبی ندید، اما این حادثه متعاقباً منجر به مداخله پلیس و دستگیری او در خانه‌اش شد.

آنچه به طور خاص توجه عموم را به خود جلب کرد، خودِ درگیری نبود، بلکه نحوه‌ی کشف این حادثه بود.

دختر ۱۸ ساله شینوسوکه آبه، سرمربی تیم یومیوری جاینتز، گفت که قبل از گزارش این حادثه به یک آژانس مشاوره کودک، از یک چت‌بات هوش مصنوعی به نام ChatGPT مشاوره گرفته است.

طبق نامه‌ای که بعداً منتشر شد، دختر ۱۸ ساله آبه در ابتدا از اقوام، دوستان یا مقامات درخواست کمک نکرد. در عوض، او تصمیم گرفت با ChatGPT چت کند تا در مورد وضعیتی که با آن روبرو بود، سؤال کند.

طبق روایت این دختر، ربات چت هوش مصنوعی به او پیشنهاد داد که می‌تواند به صورت ناشناس از مراکز مشاوره کودک درخواست کمک کند. سپس او با یک مرکز مشاوره کودک تماس گرفت تا از او راهنمایی بخواهد.

پس از دریافت اطلاعات، کارشناسان مرکز این موضوع را به عنوان موردی که نیاز به رسیدگی فوری دارد ارزیابی کرده و بلافاصله با پلیس تماس گرفتند. مقامات به سرعت در محل حاضر شدند و منجر به دستگیری مربی مشهور شد.

اگرچه تصمیم نهایی بر عهده کاربران و مسئولین است، اما این حادثه نشان می‌دهد که هوش مصنوعی امروزه دیگر صرفاً ابزاری برای بازیابی اطلاعات یا کمک در کار نیست. با توانایی‌اش در گفتگوی طبیعی، ارائه پاسخ‌های تقریباً آنی و عملکرد مداوم ۲۴ ساعته، چت‌بات‌ها به تدریج به جای دوستان، خانواده یا مسئولین، به مکانی برای بسیاری از افراد تبدیل می‌شوند که در مواقع نیاز به اشتراک‌گذاری یا درخواست مشاوره در مورد مسائل شخصی به آنها مراجعه می‌کنند.

وقتی هوش مصنوعی به «مربی» جوانان تبدیل می‌شود.

طبق نظرسنجی کمیته امور مصرف‌کنندگان دفتر کابینه ژاپن، تعداد فزاینده‌ای از نوجوانان از محتوای تولید شده توسط هوش مصنوعی برای دریافت مشاوره در مورد مسائل زندگی استفاده می‌کنند.

ایسائو اچیزن، متخصص امنیت اطلاعات در موسسه ملی انفورماتیک ژاپن، استدلال می‌کند که پاسخ‌های مدل‌های هوش مصنوعی مکالمه‌ای مانند ChatGPT می‌تواند بسته به نحوه پرسیدن سوالات کاربران و میزان اطلاعات ارائه شده، به طور قابل توجهی متفاوت باشد.

به گفته او، در مورد دختر شینوسوکه آبه، سیستم هوش مصنوعی پیشنهاد نسبتاً مستقیمی برای تماس با یک مرکز مشاوره کودک ارائه داد. با این حال، هوش مصنوعی فقط می‌تواند اطلاعات ارائه شده توسط کاربر را پردازش کند و فاقد توانایی درک کامل زمینه مانند اعضای خانواده یا کسانی است که مستقیماً شاهد این رویداد بوده‌اند.

آقای اچیزن استدلال کرد که بحث در مورد این موضوع با اعضای خانواده یا کسانی که با شرایط خاص آشنا هستند، گزینه طبیعی‌تر و مناسب‌تری می‌بود.

این متخصص همچنین اذعان کرد که تولید هوش مصنوعی ابزاری مناسب است و اتکای جوانان به آن روندی قابل درک است. با این حال، او دانش‌آموزان ابتدایی و راهنمایی را به دلیل خطر اتکای بیش از حد به پاسخ‌های تولید شده توسط ماشین، از استفاده فعال از این فناوری منصرف کرد.

به گفته او، یکی از بزرگترین خطرات این است که کاربران تمایل دارند به آنچه هوش مصنوعی ارائه می‌دهد، اعتماد مطلق داشته باشند. با گسترش روزافزون نسل هوش مصنوعی، از کمک به یادگیری و نوشتن مقاله گرفته تا مشاوره در مورد مسائل شخصی، ایجاد توانایی تفکر مستقل و ارزیابی اطلاعات بیش از هر زمان دیگری اهمیت دارد.

یک نظرسنجی توسط دفتر کابینه ژاپن نشان داد که بیش از نیمی از نوجوانان دختر 10 تا 19 ساله مورد بررسی گفتند که از محتوای تولید شده توسط هوش مصنوعی برای دریافت مشاوره در مورد مشکلات پیش روی خود استفاده کرده‌اند.

به گفته آقای اچیزن، بسیاری از کودکان به این دلیل به هوش مصنوعی روی می‌آورند که در به اشتراک گذاشتن احساسات خود با والدین یا اقوام خود مشکل دارند. در همین حال، سیستم‌های هوش مصنوعی به گونه‌ای طراحی شده‌اند که حس همدلی و درک را ایجاد کنند و به این ترتیب، ایجاد اعتماد برای کاربران آسان‌تر می‌شود.

او تأکید کرد که محافظت از کودکان در برابر خطرات وابستگی به هوش مصنوعی فقط به کنترل این فناوری محدود نمی‌شود، بلکه باید با آموزش توانایی آنها در تشخیص درست از غلط، تفکر انتقادی و تشویق تعامل مستقیم با انسان‌ها از سنین پایین شروع شود. او گفت: «اطرافیان آنها باید به کودکان کمک کنند تا درک کنند که هوش مصنوعی همیشه درست نیست.»

بنابراین، پرونده شینوسوکه آبه چیزی بیش از یک داستان از یک درگیری خانوادگی است که منجر به عواقب حقوقی ناخواسته می‌شود. به طور گسترده‌تر، این پرونده منعکس کننده یک واقعیت رو به رشد در جامعه مدرن است: هوش مصنوعی به طور فزاینده‌ای در زندگی روزمره رواج می‌یابد و به بخش جدایی‌ناپذیری از نحوه جستجوی اطلاعات، مشاوره و تصمیم‌گیری‌های مهم زندگی مردم تبدیل می‌شود.

مراکز مشاوره و راهنمایی کودک در ژاپن، که تحت قانون رفاه کودکان تأسیس شده‌اند، وظیفه دریافت گزارش‌های مربوط به کودکان زیر ۱۸ سال، از جمله موارد مشکوک به سوءاستفاده، را بر عهده دارند.

تا آوریل امسال، ژاپن ۲۴۳ مرکز از این دست در سراسر کشور دارد که توسط متخصصانی از جمله مددکاران اجتماعی، روانشناسان، پزشکان و کارکنان بهداشت جامعه اداره می‌شوند.

یکی از مهم‌ترین ابزارهای این سیستم، خط تلفن ۱۸۹ است که از سال ۲۰۱۵ فعالیت می‌کند. نام «ایچی-هایا-کو» به معنای «سریع» یا «فوری» است و مردم را تشویق می‌کند تا موارد مربوط به کودکان در معرض خطر را در اسرع وقت گزارش دهند. پس از دریافت تماس، این خط تلفن موقعیت مکانی تماس‌گیرنده را شناسایی کرده و او را به نزدیکترین مرکز مشاوره کودک متصل می‌کند تا شدت وضعیت ارزیابی شده و اقدامات مداخله‌ای مناسب تعیین شود.

منبع: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/khi-chatbot-buoc-vao-doi-thuc-1042130