هشدار اخیر منتشر شده توسط اتحاد اشتراکگذاری اطلاعات پنج چشم، شامل ایالات متحده، بریتانیا، کانادا، استرالیا و نیوزیلند، باعث ایجاد یک جنبش جهانی شده است. ظهور و توسعه هوش مصنوعی انقلابی را ایجاد میکند که منجر به تغییرات جامع در تمام جنبههای زندگی، اقتصاد و جامعه بشر میشود. امروزه، هوش مصنوعی در هر زمینهای، از تجارت و آموزش گرفته تا مراقبتهای بهداشتی و کشاورزی، نفوذ میکند و بشریت را مجبور میکند تا به سرعت با دنیای فناوری محور سازگار شود. این فقط تکامل نیست، بلکه یک انقلاب جامع است که فصل جدید و نویدبخشی را برای بشریت میگشاید.
با این حال، در کنار جنبههای مثبت آن، توسعه هوش مصنوعی به نقطهای رسیده است که اگر کنترل نشود، میتواند خطراتی را برای بشریت ایجاد کند. مشکل این است که هوش مصنوعی اکنون توانایی یادگیری و باهوشتر شدن به تنهایی را دارد. این شتاب، یک حلقه بازخورد ایجاد میکند که آنتروپیک، یک شرکت مستقر در سانفرانسیسکو و متخصص در تولید مدلهای هوش مصنوعی کلود، هشدار میدهد که میتواند منجر به چیزی شود که محققان آن را «خودبهبودی بازگشتی» مینامند. این ایده یک سیستم هوش مصنوعی است که قادر به یادگیری برای باهوشتر شدن به تنهایی و با کمک کم انسان است.
اگر چنین اتفاقی بیفتد، عواقب آن غیرقابل پیشبینی خواهد بود. در واقعیت، هوش مصنوعی همین حالا هم تأثیرات منفی زیادی ایجاد کرده است. به گفته کارشناسان امنیت سایبری، سوءاستفاده از آسیبپذیریهای امنیتی یا ایجاد کمپینهای حمله در مقیاس بزرگ قبلاً به تیمهای متخصص بسیار ماهری نیاز داشت. با این حال، مدلهای فعلی هوش مصنوعی اکنون میتوانند در تشخیص آسیبپذیری، نوشتن بدافزار، خودکارسازی فرآیندهای نفوذ و حتی بهینهسازی تاکتیکهای حمله کمک کنند.
در سطحی پایینتر، هوش مصنوعی به ابزاری تبدیل شده است که توسط گروههای مجرمان سایبری برای اهداف خطرناک مورد سوءاستفاده قرار میگیرد. به لطف هوش مصنوعی، حتی کسانی که مهارتهای فنی محدودی دارند میتوانند نرمافزارهای پیچیده حمله سایبری، از باجافزار گرفته تا ابزارهای نفوذ که قادر به دور زدن لایههای متعدد امنیت سنتی هستند، ایجاد کنند. علاوه بر این، فناوری دیپفیک (استفاده از هوش مصنوعی برای ایجاد تصاویر و صداهای جعلی) به سطح بسیار بالایی از واقعگرایی دست یافته و به ابزاری برای کمپینهای فیشینگ در مقیاس بزرگ، سرقت اطلاعات یا انتشار اطلاعات نادرست تبدیل شده است.
حتی مدیران عامل شرکتهای پیشرو در حوزه هوش مصنوعی در جهان نیز نگرانی خود را در مورد از دست دادن کنترل بر هوش مصنوعی ابراز میکنند. در نامهای سرگشاده به کنگره ایالات متحده، مدیران عامل دمیس هاسابیس از گوگل دیپمایند، سم آلتمن از اوپنایآی، داریو آمودی از آنتروپیک و مصطفی سلیمان از مایکروسافت ایآی، خواستار وضع مقررات جدید برای تقویت نظارت بر فروش DNA و RNA مصنوعی پس از بازسازی ویروس منقرض شده آبله اسبی با استفاده از هوش مصنوعی شدند. در سندی که برای قانونگذاران ارسال شده است، این مدیران عامل اذعان کردهاند که سرعت فعلی توسعه هوش مصنوعی میتواند به تغییر مهمی در امنیت زیستی جهانی منجر شود.
جهان در برهه حساسی از توسعه فناوری قرار دارد. به گفته کارشناسان امنیت سایبری، اگر کشورها به سرعت استانداردهای امنیتی جهانی برای هوش مصنوعی ایجاد نکنند، بشریت میتواند با خطر دستکاری اینترنت توسط الگوریتمهای پیچیدهتر و دشوار برای کنترل مواجه شود. ایجاد تدابیر حفاظتی در برابر هوش مصنوعی در حال حاضر برای جلوگیری از بحران امنیت سایبری جهانی در آینده ضروری است.
اتحاد تبادل اطلاعات پنج چشم (Five Eyes) از سازمانها و دولتها خواسته است تا با ادغام ابزارهای هوش مصنوعی در عملیات امنیتی خود، دفاع خود را تقویت کنند و هشدار داده است که کسانی که این کار را انجام ندهند، با عواقب فاجعهباری روبرو خواهند شد، زیرا خود را در معرض هکرها و افراد دیگری قرار میدهند که به روشهای جدید و در دسترستر حمله سایبری مجهز هستند.
در اوایل ژوئن ۲۰۲۶، دونالد ترامپ، رئیس جمهور ایالات متحده، فرمان اجرایی را امضا کرد که به دولت فدرال اجازه میدهد مدلهای پیشرفته هوش مصنوعی را قبل از انتشار عمومی ارزیابی کند. این فرمان جدید سازوکاری را برای شرکتهای هوش مصنوعی ایجاد میکند تا داوطلبانه به دولت ایالات متحده اجازه دهند تا خطرات امنیت ملی ناشی از پیشرفتهترین مدلهای خود را تا ۳۰ روز قبل از انتشار گسترده ارزیابی کند.
آنتروپیک حتی پا را فراتر گذاشت و پیشنهاد توقف جهانی در ساخت قدرتمندترین سیستمهای هوش مصنوعی را داد. آنتروپیک در پیشنهاد خود نوشت: «ما معتقدیم که برای جهان خوب است که گزینه کاهش سرعت یا توقف توسعه هوش مصنوعی پیشرفته را داشته باشد تا ساختارهای اجتماعی و تحقیقاتی بتوانند با سرعت پیشرفت فناوری سازگار شوند.»
جهان نمیتواند در توجه به هشدارهای هوش مصنوعی تأخیر کند.
(منبع: روزنامه کهنه سربازان ویتنام شماره ۱۶۵۱، ۱ ژوئیه ۲۰۲۶)
منبع: https://cuuchienbinh.vn/loi-canh-bao-tu-ai-d43679.html
