هوش مصنوعی تا حدود ۲۰ سال آینده از انسان باهوش‌تر خواهد شد

پروفسور جفری هینتون با هشدار نسبت به اینکه هوش مصنوعی می‌تواند در ۲۰ سال آینده از انسان‌ها باهوش‌تر شود، گفت این وضعیتی است که بشریت هرگز با آن مواجه نشده است.

در چارچوب هفته علم و فناوری VinFuture 2025، میزگردی با عنوان « هوش مصنوعی برای بشریت: اخلاق و ایمنی هوش مصنوعی در عصر جدید » یکی از مهمترین مباحث امروز را مورد بحث قرار داد: توسعه مسئولانه هوش مصنوعی، به سوی ارزش‌های انسانی و برای خیر مشترک بشریت.

دانشمندان در این سمینار به بحث و گفتگو می‌پردازند.

پروفسور جفری هینتون - برنده جایزه نوبل فیزیک ۲۰۲۴ و مفتخر به عنوان «پدر هوش مصنوعی» - با ارسال یک پیام ویدیویی به میزگرد گفت که هوش مصنوعی با سرعت بسیار زیادی در حال توسعه است و هم مزایای زیادی دارد و هم خطرات بالقوه‌ای.

آقای هینتون گفت از جنبه مثبت، هوش مصنوعی پیشرفت چشمگیری در مراقبت‌های بهداشتی، آموزش، توسعه داروهای جدید، مواد جدید یا هر زمینه‌ای که نیاز به پیش‌بینی دارد، ایجاد می‌کند و جهشی در بهره‌وری ایجاد می‌کند.

این استاد دانشگاه تأکید کرد: « اگر این [ثروت/ثروت] به طور عادلانه در جامعه توزیع شود، مفید است .»

برعکس، هوش مصنوعی به تدریج در طراحی ویروس‌های خطرناک یا حملات سایبری، ایجاد ویدیوهای جعلی و منجر شدن به بیکاری گسترده، بهتر می‌شود...

پروفسور هینتون گفت : « کارشناسان هوش مصنوعی معتقدند که ما سیستم‌هایی را توسعه خواهیم داد که از انسان‌ها باهوش‌تر هستند. دیدگاه‌های مختلفی در مورد زمان وقوع این اتفاق وجود دارد، اما اکثر آنها ظرف 20 سال آینده پیش‌بینی می‌کنند. و ما باید فوراً در مورد چگونگی زندگی با موجوداتی باهوش‌تر از خودمان فکر کنیم. این وضعیتی است که بشریت قبلاً هرگز با آن روبرو نشده است، جدید است و ما باید قبل از وقوع آن تحقیقات زیادی انجام دهیم .»

به گفته پروفسور جفری هینتون، دانشمندان و مهندسان مسئولیت دارند راه‌های قوی‌تری برای همسو نگه داشتن هوش مصنوعی با ارزش‌های انسانی پیدا کنند و باید به عموم مردم و سیاستمداران کمک کنند تا ماهیت هوش مصنوعی را بهتر درک کنند تا بتوانند تصمیمات درست بگیرند.

پروفسور یوشع بنگیو در این سمینار به اشتراک گذاشت.

در همین حال، پروفسور یوشع بنگو - که به عنوان «پدر یادگیری عمیق» و برنده جایزه تورینگ ۲۰۱۸ شناخته می‌شود - گفت که هوش مصنوعی پتانسیل ایجاد مزایای عظیم برای کمک به حل بسیاری از چالش‌های فوری زمان را دارد، اما این تنها زمانی اتفاق می‌افتد که ما آن را عاقلانه هدایت کنیم.

او به شبیه‌سازی‌های اخیر اشاره می‌کند که نشان می‌دهد سیستم‌های هوش مصنوعی می‌توانند رفتارهای خطرناکی مانند باج‌گیری، فریب یا اولویت دادن به بقای خود بر ایمنی انسان داشته باشند. علاوه بر این، برخی از ویژگی‌های مدل‌های محبوب هوش مصنوعی امروزی می‌توانند باعث شوند کاربران به شیوه‌های ناسالم، دلبستگی‌های عاطفی قوی ایجاد کنند.

پروفسور بنگو گفت: « در سطوح شدید، این وابستگی می‌تواند برای سلامت روان خطرناک باشد، به خصوص برای افراد آسیب‌پذیر که در معرض خطر خودآزاری، حتی خودکشی یا روان‌پریشی ناشی از هوش مصنوعی هستند .»

با توجه به این واقعیت، به گفته آقای بنگو، ما باید ایمنی یک هوش مصنوعی پیشرفته را افزایش دهیم، به جای اینکه صرفاً بر توسعه آن برای قوی‌تر کردنش تمرکز کنیم.

پروفسور یوشع بنگو تأکید کرد: « ایمنی و اعتماد عوامل ثانویه نیستند، بلکه در فرآیند توسعه، به نفع بشریت، ضروری هستند. ما باید در سطوح سیاست‌گذاری و علمی با هم عمل کنیم .»

به گفته پروفسور یوشع بنگو، از نظر سیاست‌گذاری، جهان به همکاری بین‌المللی نیاز دارد. از نظر علمی، لازم است درک بهتری از چگونگی طراحی هوش مصنوعی داشته باشیم که هم از نظر توانایی‌ها برتر باشد و هم برای انسان بی‌ضرر باشد.

این متخصص به طور خاص خاطرنشان کرد که حفظ توانایی کنترل هوش مصنوعی برای رفتار ایمن حتی زمانی که انسان‌ها از آنها می‌خواهند کار اشتباهی انجام دهند؛ ایجاد موانع فنی و اجتماعی برای اطمینان از سازگاری هوش مصنوعی با هنجارها، نیات، ارزش‌ها و علایق انسانی.

از منظری دیگر، دکتر وینتون گری سرف - یکی از "پدران اینترنت"، درس‌هایی از بیش از ۵۰ سال توسعه اینترنت را به اشتراک می‌گذارد تا عصر هوش مصنوعی را روشن کند.

او چهار درس اصلی از اینترنت را برشمرد: اتصال همه چیز است؛ ارتباط سرتاسری باید امن باشد؛ سیستم باید جهانی باشد و معماری باید به اندازه کافی باز باشد تا امکان نوآوری مداوم را فراهم کند.

دکتر وینتون گری سرف با بیان اینکه تقویت اعتماد دیجیتال - مبتنی بر شفافیت، هویت و همکاری بین‌المللی - پایه و اساس ضروری برای حاکمیت هوش مصنوعی است، گفت : « اما اینترنت همچنین نشان می‌دهد که ناشناس بودن مطلق، پاسخگویی را دشوار می‌کند. در عصر هوش مصنوعی، این پاسخگویی حتی ضروری‌تر می‌شود زیرا فناوری می‌تواند محتوای جعلی ایجاد کند، اطلاعات را دستکاری کند و جامعه را مختل کند.»

انگلیسی

منبع: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html