نگرانی‌هایی مبنی بر اینکه هوش مصنوعی سلاح‌های پیشرفته‌ای ایجاد خواهد کرد که توسط انسان کنترل نمی‌شوند

مقامات به طور فزاینده‌ای نگران سوءاستفاده از هوش مصنوعی برای ایجاد سلاح‌های بیولوژیکی و نیاز به تنظیم مقررات برای کاهش این امر هستند. (عکس: ایگناتیف)

نگرانی‌ها در مورد استفاده جنایتکاران یا تروریست‌ها از هوش مصنوعی برای نابودی جهان ، موضوع داغ اجلاس رهبران جهان در بریتانیا در ماه نوامبر خواهد بود. مقامات بریتانیایی در حال سفر به سراسر جهان هستند تا تلاش کنند در مورد بیانیه مشترکی که در مورد خطرات سوءاستفاده نیروهای بد از فناوری‌های جدید هشدار می‌دهد، به اجماع برسند.

برخی از مقامات نزدیک به نخست وزیر بریتانیا نگرانند که در برهه‌ای از زمان، این فناوری به اندازه‌ای قدرتمند شود که بتواند سلاح‌های بیولوژیکی یا سلاح‌هایی که از کنترل انسان خارج می‌شوند، بسازد. این نگرانی فزاینده، خواستار وضع مقرراتی برای کاهش خطرات است. در حالی که رهبران فناوری با توقف توسعه هوش مصنوعی موافقت می‌کنند، در یک مسابقه تسلیحاتی هوش مصنوعی با رقبا گرفتار شده‌اند.

به گزارش گاردین، اجلاس ماه نوامبر در مورد خطرات «هوش مصنوعی مرزی» بحث خواهد کرد. هوش مصنوعی مرزی اصطلاحی است که برای اشاره به پیشرفته‌ترین مدل‌های هوش مصنوعی که می‌توانند زندگی انسان را به خطر بیندازند، به کار می‌رود.

اوایل این هفته، دولت بریتانیا تأیید کرد که این کنفرانس بر خطراتی مانند سوءاستفاده از هوش مصنوعی برای ایجاد سلاح‌های بیولوژیکی، حملات سایبری یا سیستم‌های پیشرفته بدون کنترل انسان تمرکز خواهد داشت. آقای سوناک چندین ماه است که در مورد خطرات ناشی از هوش مصنوعی هشدار می‌دهد و از جامعه بین‌المللی می‌خواهد که برای جلوگیری از سوءاستفاده از هوش مصنوعی، «راهکارهایی» اتخاذ کنند.

سال گذشته، یک هوش مصنوعی تنها شش ساعت طول کشید تا ۴۰ هزار مولکول بالقوه کشنده مختلف را پیشنهاد دهد که یکی از آنها شبیه VX، قدرتمندترین عامل اعصابی که تاکنون ساخته شده است، بود.

در اوایل سال ۲۰۲۳، محققان کشف کردند که ChatGPT می‌تواند انسان‌ها را برای رسیدن به یک هدف خاص فریب دهد. این چت‌بات هوش مصنوعی، یک انسان را متقاعد می‌کرد که یک کپچا (ابزاری برای تشخیص اینکه آیا انسان در حال دستکاری است یا ربات) را حل کند.

یکی دیگر از نگرانی‌های عمده، ظهور «هوش مصنوعی عمومی» (AGI) است، یک سیستم هوش مصنوعی که می‌تواند هر کاری را به خوبی یا بهتر از انسان انجام دهد، که به طور بالقوه می‌تواند تهدیدی برای بشریت باشد. برخی معتقدند که AGI تنها چند سال با ما فاصله دارد. با این حال، متخصصان هوش مصنوعی این موضوع را رد می‌کنند و AGI غیرقابل کنترل را «داستان علمی تخیلی» می‌نامند.

صرف نظر از این، نخست وزیر سوناک می‌خواهد از این کنفرانس برای تمرکز بر خطرات وجودی به جای امکانات فوری هوش مصنوعی مانند ایجاد تصاویر جعلی یا ایجاد تبعیض در صورت استفاده برای تصمیم‌گیری‌های سیاست‌های عمومی استفاده کند.

دولت بریتانیا ۱۰۰ میلیون پوند برای یک گروه ویژه جدید هوش مصنوعی هزینه خواهد کرد تا به آزمایش الگوریتم‌های در حال توسعه کمک کند. این دولت می‌خواهد کسب‌وکارهای جهانی را تشویق کند تا ابزارهای هوش مصنوعی را قبل از استقرار گسترده، برای ارزیابی به بریتانیا ارسال کنند.

به گفته الیور داودن، معاون نخست وزیر بریتانیا، تنها دولت می‌تواند اطمینان حاصل کند که مهمترین نگرانی‌های امنیت ملی برطرف می‌شوند.

سخنگوی دولت بریتانیا گفت که هوش مصنوعی پتانسیل عظیمی برای تغییر هر جنبه‌ای از زندگی دارد. گروه ویژه هوش مصنوعی برای اطمینان از توسعه ایمن و مسئولانه این فناوری تشکیل شده است. کنفرانس هوش مصنوعی طیف وسیعی از خطرات احتمالی را بررسی خواهد کرد.

(به نقل از گاردین)

به‌کارگیری هوش مصنوعی در حفاظت از حق نشر محتوای دیجیتال همزمان با توسعه‌ی گسترده‌ی محتوای دیجیتال، نقض حق نشر نیز روز به روز دردناک‌تر می‌شود. راهکارهایی که هوش مصنوعی (AI) را در خود جای می‌دهند، به حفاظت از حق نشر محتوای دیجیتال در اینترنت کمک خواهند کرد.

منبع