هوش مصنوعی «پدرخوانده» نسبت به خطر انقراض هشدار می‌دهد

پروفسور یوشوا بنجیو از دولت‌ها و شرکت‌ها می‌خواهد که سرعت مسابقه تسلیحاتی هوش مصنوعی را کاهش دهند یا عواقب فاجعه‌بار بالقوه آن را بپذیرند.

یوشع بنگیو، یکی از اولین دانشمندانی که پایه و اساس رونق هوش مصنوعی مدرن را بنا نهاد. عکس: توآن آن .

یوشوا بنگیو، یکی از پیشگامان هوش مصنوعی، در گفتگو با وال استریت ژورنال این پیام را رساند که ماشین‌های هوش مصنوعی از همیشه خطرناک‌تر می‌شوند.

آقای بنگیو گفت: «اگر ما ماشین‌هایی بسازیم که بسیار باهوش‌تر از انسان‌ها باشند و اهداف محافظت از خود را داشته باشند، خطرناک خواهد بود. این مانند ایجاد رقیبی برای بشریت و باهوش‌تر از ما خواهد بود.»

بنجیو، دانشمند محقق کانادایی که کارهای اولیه‌اش روی یادگیری عمیق و شبکه‌های عصبی، پایه و اساس رونق هوش مصنوعی مدرن را بنا نهاد، به همراه جفری هینتون و یان لکان، یکی از «پدران هوش مصنوعی» محسوب می‌شود.

بنجیو نیز مانند هینتون، در مورد آسیب‌های احتمالی هوش مصنوعی هشدار داده و خواستار اقدام جمعی برای کاهش خطرات شده است.

استاد دانشگاه مونترال معتقد است که محصولات هوش مصنوعی اکنون می‌توانند توانایی فریب کاربران را برای دنبال کردن اهداف خود، مانند شخصیت‌های شرور ابررایانه‌های دارای شعور در فیلم‌های علمی تخیلی، توسعه دهند.

برای مقابله با این، آقای بنجیو بر لزوم بررسی سازوکارهای ایمنی داخلی شرکت‌های هوش مصنوعی توسط «اشخاص ثالث مستقل» تأکید کرد. علاوه بر این، این «پدرخوانده» هوش مصنوعی همچنین از شرکت‌ها می‌خواهد شواهدی ارائه دهند که نشان دهد «سیستم‌های هوش مصنوعی که آنها مستقر یا استفاده می‌کنند، قابل اعتماد هستند».

بنجیو پیش‌بینی می‌کند که اگر اقدامات ایمنی انجام نشود، خطرات عمده هوش مصنوعی در ۱۰ تا ۱۵ سال آینده اجتناب‌ناپذیر خواهد بود و بدترین حالت تنها سه سال قبل از وقوع یک فاجعه احتمالی رخ خواهد داد.

منبع: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html