«چرا هوش مصنوعی خطرناک است؟»

در واقع، این اولین باری نیست که دانشمندان در مورد خطر بالقوه هوش مصنوعی برای بشریت هشدار داده‌اند. در سال ۲۰۱۴، استیون هاوکینگ، فیزیکدان نظری مشهور بریتانیایی، اظهار داشت: «توسعه کامل هوش مصنوعی می‌تواند بشریت را نابود کند.» او همچنین پیش‌بینی کرد که اگر در تحقیق و توسعه این فناوری خطرناک احتیاط نشود، بشریت ظرف ۵۰۰ سال کاملاً توسط هوش مصنوعی جایگزین خواهد شد. هشت سال پیش، در ژوئیه ۲۰۱۵، بیش از ۱۰۰۰ متخصص هوش مصنوعی، از جمله استیون هاوکینگ، ایلان ماسک، نوام چامسکی و دیگران، طوماری را امضا کردند که در مورد خطر مسابقه تسلیحاتی در زمینه هوش مصنوعی نظامی هشدار می‌داد و خواستار ممنوعیت کامل سلاح‌های خودمختار (ترکیب هوش مصنوعی و سلاح‌های کشنده) شد. راه‌اندازی برنامه Chat GPT توسط OpenAI در نوامبر ۲۰۲۲، زنگ خطر دیگری را در مورد خطرات ذاتی هوش مصنوعی به صدا درآورد. در واقع، کاری که Chat GPT انجام می‌دهد نشان می‌دهد که هوش مصنوعی تا حدودی بسیار خطرناک‌تر از آن چیزی شده است که مردم زمانی تصور می‌کردند.

خطرات بالقوه هوش مصنوعی به نحوه استفاده از آن بستگی دارد. در ابتدا، هوش مصنوعی برای کمک به انسان‌ها در کارشان، به ویژه در کارهای خسته‌کننده و تکراری مانند طبقه‌بندی تصویر و بررسی اطلاعات، توسعه داده شد. با این حال، با توسعه سریع هوش مصنوعی در دوران اخیر، دانشمندان و کارشناسان فناوری نگران این هستند که اگر هوش مصنوعی بدون کنترل توسعه یابد یا برای اهداف اشتباه برنامه‌ریزی شود، می‌تواند عواقب جدی برای بشریت و جامعه داشته باشد.

خطر ناامنی

هوش مصنوعی می‌تواند به تهدیدی برای امنیت ملی و ایمنی شخصی تبدیل شود. ایلان ماسک هشدار داده است که هوش مصنوعی می‌تواند به ابزاری وحشتناک در جنگ تبدیل شود. اگر ملتی بتواند یک سیستم هوش مصنوعی برتر توسعه دهد، می‌تواند از آن برای حمله به سایر ملت‌ها استفاده کند. پروفسور استوارت راسل، استاد علوم کامپیوتر در دانشگاه کالیفرنیا که دهه‌ها صرف تحقیق در مورد هوش مصنوعی کرده است، در مورد تهدید امنیتی ناشی از هوش مصنوعی هشدار می‌دهد و اظهار می‌کند که اکنون می‌توانیم با ادغام و کوچک‌سازی فناوری‌های موجود، سلاح‌های خودمختار تولید کنیم.

این آزمایش که توسط پروفسور استوارت راسل و موسسه تحقیقات زندگی آینده (FLI) انجام شد، از یک ربات کشتار استفاده کرد - یک دستگاه پرنده میکروسکوپی مجهز به دوربین، حسگر، نرم‌افزار پردازش تصویر، تشخیص چهره، یک ماده منفجره ۳ گرمی و یک ریزپردازنده پرسرعت که امکان تجزیه و تحلیل داده‌ها و واکنش‌هایی ۱۰۰ برابر سریع‌تر از مغز انسان را فراهم می‌کند. طبق پارامترهای برنامه‌ریزی‌شده، ربات کشتار به‌طور مداوم به داده‌های ابری دسترسی پیدا می‌کند تا اطلاعاتی در مورد هدف خود جستجو کند و راهی برای نزدیک شدن به آن پیدا کند. پس از یافتن، با سرعت بالا به سمت هدف پرتاب می‌شود، ماده منفجره ۳ گرمی را منفجر می‌کند و به عمق جمجمه نفوذ می‌کند و قربانی را فوراً می‌کشد.

این فقط یک آزمایش با هوش مصنوعی در ساده‌ترین سطح آن بود. اگر از هوش مصنوعی برای توسعه روش‌های حمله جدید و پیچیده‌تر استفاده شود، می‌تواند قابلیت‌های حمله مهاجمان را نیز افزایش دهد و منجر به عواقب جدی‌تری نسبت به حملات متعارف شود. وقتی هوش مصنوعی به نقطه‌ای برسد که بتواند تصمیمات خود را برای مقابله با محیط‌های در حال تغییر بگیرد، یا به طور مستقل به دنبال اهداف جایگزین بگردد، یا محدوده هدف خود را گسترش دهد، شاید بشریت دیگر در امان نباشد. بسیاری از همکاران در این زمینه با پروفسور استوارت راسل موافق هستند و معتقدند که هنوز فرصتی برای جلوگیری از چنین آینده تاریک وجود دارد، اما واقعاً زمان زیادی برای ما باقی نمانده است.

خطر این است که هوش مصنوعی سازمان‌یافته و خودمختار شود و سیستم را کنترل کند.

هوش مصنوعی می‌تواند از طریق یادگیری ماشینی به اشتباه طراحی یا به طور نامناسب "آموزش" داده شود، که به طور بالقوه منجر به اقدامات ناخواسته‌ای می‌شود که به انسان و محیط زیست آسیب می‌رساند. به عنوان مثال، با یادگیری ماشینی، هوش مصنوعی به طور فزاینده‌ای هوشمند می‌شود. هنگامی که هوش مصنوعی به سطحی از هوش می‌رسد که از سیستم‌های حیاتی مانند برق، حمل و نقل، مراقبت‌های بهداشتی و مالی پشتیبانی می‌کند، می‌تواند بر کل این سیستم‌ها تسلط و کنترل داشته باشد، تصمیمات خود را بگیرد و آنها را در مواقع اضطراری اجرا کند. با این حال، هنگامی که هوش مصنوعی به نیت بدخواهانه "مجهز" می‌شود (طراحی نادرست)، می‌تواند عواقب جدی مانند اختلال در سیستم‌های ترافیکی با غیرفعال کردن چراغ‌های راهنمایی یا قطع برق سیستم‌های ریلی شهری ایجاد کند و باعث تصادفات زنجیره‌ای و قطع گسترده برق شود.

بسیاری از فیلم‌های هالیوودی و بین‌المللی بر اساس این سناریو ساخته شده‌اند. با این حال، با فناوری فعلی هوش مصنوعی، این دیگر یک چشم‌انداز دور از دسترس نیست، بلکه کاملاً ممکن است. ایلان ماسک معتقد است که اگر به هوش مصنوعی اجازه داده شود بدون کنترل توسعه یابد، تا جایی که بتواند بدون دخالت انسان تصمیمات را خودکار کند، می‌تواند تهدیدی برای بقای انسان باشد. به همین دلیل است که او به همراه هزاران متخصص فناوری، نامه‌ای را امضا کردند که خواستار توقف و کنترل دقیق توسعه هوش مصنوعی به شیوه‌ای شفاف شد. به گفته ایلان ماسک، سیستم‌های هوش مصنوعی پیچیده، دشوار برای درک هستند و کنترل آنها بسیار چالش برانگیز است. بدون شفافیت، استفاده از هوش مصنوعی برای اهداف غیراخلاقی، که باعث آسیب به بشریت می‌شود، اجتناب‌ناپذیر است.

خطر از دست دادن شغل، نقض حقوق حریم خصوصی.

وقتی از فناوری هوش مصنوعی برای جمع‌آوری اطلاعات شخصی استفاده می‌شود، می‌تواند برای نقض حریم خصوصی، انجام کمپین‌های اطلاعات نادرست و انتشار اطلاعات نادرستی که بر نظم اجتماعی و ثبات سیاسی تأثیر می‌گذارد، مورد استفاده قرار گیرد. هک شدن شبکه دفتر مدیریت پرسنل ایالات متحده (OPM) نگرانی قابل توجهی برای هر کشور یا سازمانی است، زیرا داده‌های شخصی دقیق و بسیار حساس ۲۱.۵ میلیون مقام فعلی و بازنشسته آمریکایی، از جمله اطلاعات مربوط به همسران آنها و داده‌های مربوط به درخواست‌های شغلی دولتی مانند وضعیت سلامت، محل سکونت، شغل، اثر انگشت و اطلاعات مالی را به خطر انداخت. با این حال، واقعیت نگران‌کننده‌تری زمانی آشکار شد که سازمان سیا کشف کرد که عاملان سرقت داده‌های OPM از هوش مصنوعی برای جعل اطلاعات شخصی و ایجاد عوامل مجازی برای سرقت داده‌ها استفاده کرده‌اند. پس از سرقت، اطلاعات با استفاده از فناوری کلان داده تجزیه و تحلیل، طبقه‌بندی و برای اهداف خاص مورد سوءاستفاده قرار می‌گیرند. هوش مصنوعی به سارقان اطلاعات کمک می‌کند تا زمان لازم برای سوءاستفاده از داده‌ها را کوتاه کنند، زیرا انسان‌ها قادر به پردازش چنین حجم عظیمی از اطلاعات در چنین مدت کوتاهی نیستند.

علاوه بر خطرات ذاتی ذکر شده، فناوری هوش مصنوعی خطرات دیگری نیز ایجاد می‌کند، مانند: اتکای بیش از حد به آن که منجر به از دست دادن کنترل بر موقعیت‌ها و کاهش توانایی تصمیم‌گیری می‌شود. هوش مصنوعی همچنین باعث خواهد شد میلیون‌ها، حتی صدها میلیون نفر، شغل خود را از دست بدهند، به ویژه در مشاغل صرفاً یدی با محتوای دانش کم. نتیجه این است که مشکلات اجتماعی جدی مانند بیکاری، جرم و جنایت و شکاف بین فقیر و غنی بیشتر نمایان خواهد شد. علاوه بر این، قابلیت اطمینان نیز یک مسئله حیاتی است. قابلیت اطمینان تصمیمات در زمینه‌های بسیار تخصصی مانند مراقبت‌های بهداشتی و عدالت کیفری بسیار مهم است. هنگام استفاده از هوش مصنوعی برای کمک به تصمیم‌گیری در این زمینه‌ها، اگر فناوری به اندازه کافی قابل اعتماد نباشد، بر اساس داده‌هایی عمل کند که به نفع یک یا گروهی از افراد باشد یا عمداً تحریف شود، آن تصمیمات می‌توانند عواقب جدی ایجاد کنند.

چگونه می‌توانیم از این امر جلوگیری کنیم؟

خطرات ذکر شده دلیل نگرانی ایلان ماسک و کارشناسان فناوری در مورد توسعه کنترل نشده هوش مصنوعی است و نامه‌هایی نوشته‌اند و از سازمان ملل و سازمان‌های بین‌المللی خواسته‌اند که توسعه هوش مصنوعی را به شدت کنترل، ایمنی و اخلاق را تضمین کنند و همکاری‌های بین‌المللی را تقویت کنند تا اطمینان حاصل شود که فناوری هوش مصنوعی به طور مفید برای بشریت و جامعه استفاده می‌شود. برخی از اقدامات خاص که می‌توان به آنها اشاره کرد عبارتند از:

- کنترل قابلیت اطمینان سیستم: هوش مصنوعی باید به گونه‌ای طراحی و توسعه داده شود که از طریق روش‌های دقیق، مکرر و مداوم کنترل کیفیت، نظارت و پایش، ایمنی و قابلیت اطمینان را تضمین کند تا اطمینان حاصل شود که سیستم هوش مصنوعی مطابق انتظار انسان‌ها عمل می‌کند و از تأثیرات ناخواسته ناشی از عدم اطمینان آن جلوگیری شود.

فناوری هوش مصنوعی (AI) باید طوری برنامه‌ریزی شود که مطابق با ارزش‌های اخلاقی و هنجارهای اجتماعی عمل کند. این مقررات و استانداردها باید به وضوح تدوین و نظارت شوند تا اطمینان حاصل شود که هیچ کار مضر یا زیان‌آوری برای افراد یا سازمان‌ها انجام نمی‌دهند. فرآیند تجزیه و تحلیل، ارزیابی تأثیر و نظارت بر عملکرد سیستم هوش مصنوعی نیز باید به طور منظم انجام شود تا اطمینان حاصل شود که به صورت اخلاقی عمل می‌کند، ارزش‌های مشترک جامعه را نقض یا تضعیف نمی‌کند، تأثیرات منفی ایجاد نمی‌کند و انتقال دقیق دانش و ارزش‌ها را تضمین می‌کند.

روزنامه‌نگاری یکی از صنایعی است که بیشترین تأثیر را از هوش مصنوعی پذیرفته است. در آینده، دیگر نیازی به مجریان خارج از صفحه نمایش برای برنامه‌های رادیویی نخواهد بود و حتی مجریان مجازی برای برنامه‌های تلویزیونی نیز غالب خواهند شد.

- «آموزش» سیستم‌های هوش مصنوعی را حداقل به مدت شش ماه به طور موقت متوقف کنید تا کل موضوع دوباره ارزیابی شود. این توقف باید عمومی و کنترل‌شده باشد و همه ذینفعان کلیدی درگیر در آموزش باید از آن پیروی کنند. در صورت لزوم، دولت‌ها باید ممنوعیت‌های موقت صادر کنند. این به معنای توقف کامل توسعه هوش مصنوعی نیست، بلکه صرفاً یک توقف موقت در مسابقه خطرناک برای تغییر به سمت سایر مدل‌های توسعه است که سیستم‌های هوش مصنوعی را دقیق‌تر، ایمن‌تر، قابل فهم‌تر، شفاف‌تر، مرتبط‌تر، قابل اعتمادتر و وفادارتر می‌کند. این یک راه حل جامع است که ایلان ماسک و همکارانش در نامه سرگشاده خود از آن حمایت کردند، اما امکان‌سنجی آن کم است. برای همه آزمایشگاه‌های مستقل بسیار دشوار است که از چنین درخواست غیرالزام‌آور و فراملی پیروی کنند.

- تقویت همکاری و اشتراک‌گذاری اطلاعات بین کشورها و سازمان‌های تحقیقاتی مستقل هوش مصنوعی برای اطمینان از توسعه و استفاده ایمن از هوش مصنوعی در آینده بسیار مهم است. همکاری و اشتراک‌گذاری اطلاعات همچنین امکان هشدارهای به موقع و پیشگیری از هرگونه خطرات نوظهور را فراهم می‌کند.

به طور کلی، هوش مصنوعی در همه جا در اطراف ما حضور دارد و داستان‌هایی مانند هوش مصنوعی که شعر، موسیقی و مقاله می‌نویسد، به واقعیت تبدیل شده‌اند و دیگر علمی تخیلی نیستند. نویسنده این مقاله از فناوری هوش مصنوعی در رایانه‌ها و تلفن‌ها برای کمک به نوشتن استفاده کرده و این روند را روان‌تر و سریع‌تر کرده است. به طور خاص، پاراگراف مقدماتی (chapeau) و برخی ایده‌ها توسط هوش مصنوعی پیشنهاد شده‌اند و حتی جالب‌تر اینکه، تمام تصاویر استفاده شده در این مقاله توسط هوش مصنوعی ایجاد شده‌اند. فناوری هوش مصنوعی در بهبود کیفیت کار و زندگی انسان‌ها بسیار مفید است، اما برای جلوگیری از خارج شدن از کنترل و تبدیل شدن به جایگزینی بالقوه برای انسان‌ها در آینده، همانطور که توسط فیزیکدان نظری، استیون هاوکینگ، پیش‌بینی شده است، باید به شدت کنترل شود.

متن و عکس‌ها: هو دونگ

منبع