«پدر» چت GPT بزرگترین ترس خود را در مورد هوش مصنوعی به اشتراک می‌گذارد

آلتمن در جلسه استماع کمیته فرعی قضایی سنا در مورد حریم خصوصی، فناوری و قانون در تاریخ ۱۶ می گفت : «بدترین ترس من این است که ما - ما، این حوزه، صنعت فناوری - به جهان آسیب جدی وارد کنیم. فکر می‌کنم این اتفاق می‌تواند از طرق مختلف رخ دهد. به همین دلیل است که ما این شرکت را تأسیس کردیم.»

بزرگترین ترس: هوش مصنوعی می‌تواند اشتباه کند

آلتمن، مدیرعامل OpenAI (توسعه‌دهنده ChatGPT)، گفت: «مردم فکر می‌کنند اگر این فناوری دچار مشکل شود، می‌تواند به ضررشان تمام شود و ما می‌خواهیم این موضوع را با صدای بلند اعلام کنیم. ما می‌خواهیم با دولت همکاری کنیم تا از وقوع چنین اتفاقی جلوگیری کنیم.»

سم آلتمن، مدیرعامل OpenAI، در جلسه استماع کمیته فرعی قضایی سنا سوگند یاد کرد. (عکس: واشنگتن پست)

آلتمن در اولین شهادت خود در کنگره ، همچنین خواستار وضع مقررات گسترده، از جمله یک آژانس دولتی جدید مسئول صدور مجوز برای مدل‌های هوش مصنوعی، شد تا به نگرانی‌های فزاینده مبنی بر اینکه هوش مصنوعی می‌تواند واقعیت را تحریف کند و خطرات ایمنی بی‌سابقه‌ای ایجاد کند، رسیدگی شود.

آقای آلتمن موضع جدی در مورد راه‌هایی که هوش مصنوعی می‌تواند «آسیب قابل توجهی به جهان وارد کند» اتخاذ کرده و ابراز تمایل کرده است که با قانون‌گذاران برای رسیدگی به خطرات ناشی از ChatGPT و سایر ابزارهای هوش مصنوعی شرکتش همکاری کند.

آقای آلتمن رفتارهای «خطرناکی» را که فناوری‌هایی مانند ChatGPT می‌توانند منجر به آن شوند، از جمله انتشار «اطلاعات نادرست تعاملی زنده» و دستکاری عاطفی، برشمرد. او اذعان کرد که می‌توان از هوش مصنوعی برای هدف قرار دادن حملات پهپادی استفاده کرد.

او گفت: «اگر این فناوری دچار مشکل شود، می‌تواند بد باشد.»

با این حال، طی تقریباً سه ساعت بحث در مورد عواقب وخیم احتمالی، آقای آلتمن اصرار داشت که شرکتش به گسترش فناوری هوش مصنوعی ادامه خواهد داد.

او استدلال می‌کند که به جای ریسک‌پذیری، «استقرارهای مکرر» مدل‌های هوش مصنوعی OpenAI به سازمان‌ها زمان می‌دهد تا تهدیدات بالقوه را درک کنند، حرکتی استراتژیک که فناوری «نسبتاً ضعیف» و «ناقص» را در جهان قرار می‌دهد تا به کشف خطرات ایمنی مرتبط کمک کند.

تصویری از برنامه ChatGPT که به رایانه‌ها اجازه می‌دهد مانند یک انسان با کاربران چت کنند.

طی چند هفته گذشته، آقای آلتمن در یک تور جهانی با هدف نشان دادن حسن نیت خود، به طور خصوصی با سیاست‌گذاران از جمله رئیس جمهور بایدن و اعضای کنگره دیدار کرده است تا به نگرانی‌ها در مورد استقرار سریع ChatGPT و سایر فناوری‌ها رسیدگی کند.

جلسه استماع ۱۶ مه اولین فرصت برای عموم مردم است تا پیام او را بشنوند، آن هم در زمانی که واشنگتن به طور فزاینده‌ای در تلاش است تا فناوری‌ای را تنظیم کند که مشاغل را مختل کرده، کلاهبرداری را تسهیل کرده و اطلاعات نادرست را منتشر کرده است.

در تضاد کامل با جلسات استماع با دیگر مدیران عامل شرکت‌های فناوری، مانند شو زی چو از تیک تاک و مارک زاکربرگ از متا، قانون‌گذاران آمریکایی از آقای آلتمن استقبال نسبتاً گرمی کردند.

به نظر می‌رسید که آنها در حال گوش دادن هستند و ابراز آمادگی کردند که پیشنهادات آلتمن و دو شاهد دیگر در جلسه دادرسی را بررسی کنند: کریستینا مونتگومری، مدیر اجرایی IBM و گری مارکوس، استاد بازنشسته دانشگاه نیویورک.

در جلسه استماع کمیته فرعی قضایی سنا در مورد حریم خصوصی، فناوری و قانون، قانون‌گذاران نگرانی‌های عمیق خود را در مورد توسعه سریع هوش مصنوعی ابراز کردند و استدلال کردند که پیشرفت‌های اخیر می‌تواند از اینترنت دگرگون‌کننده‌تر یا به اندازه بمب اتم خطرناک باشد.

سناتور جان نیلی کندی به شاهدان گفت: «این فرصتی است تا به ما بگویید چگونه این کار را درست انجام دهیم. از آن استفاده کنید.»

قانونگذاران هر دو حزب، با ایده ایجاد یک آژانس دولتی که وظیفه تنظیم توسعه هوش مصنوعی را بر عهده دارد، ابراز تمایل کرده‌اند، اگرچه تلاش‌های قبلی برای ایجاد یک آژانس خاص با نظارت سیلیکون ولی در کنگره شکست خورده است، زیرا احزاب در مورد چگونگی شکل‌دهی به چنین آژانس عظیمی اختلاف نظر دارند.

مشخص نیست که آیا چنین پیشنهادی در میان جمهوری‌خواهان، که عموماً نسبت به گسترش قدرت دولت محتاط هستند، حمایت گسترده‌ای کسب خواهد کرد یا خیر. سناتور جاش هاولی، جمهوری‌خواه از میسوری، هشدار داد که چنین آژانسی می‌تواند «در دام منافعی که قرار است تنظیم کنند» گرفتار شود.

سناتور ریچارد بلومنتال، رئیس کمیته فرعی، شهادت آقای آلتمن در جلسه استماع را ستود: «سم آلتمن دنیایی متفاوت از سایر مدیران عامل است... نه فقط در کلمات و لفاظی‌هایش، بلکه در اقدامات واقعی و تمایلش به مشارکت و تعهد به اقدامات ملموس.»

جلسه استماع با مدیرعامل آلتمن در حالی برگزار می‌شود که سیاست‌گذاران واشنگتن به طور فزاینده‌ای نگران تهدیدات ناشی از هوش مصنوعی، مانند ChatGPT و سایر ابزارهای نوآورانه هوش مصنوعی، به ویژه در رابطه با اطلاعات نادرست، حریم خصوصی داده‌ها، نقض حق چاپ و امنیت سایبری هستند.

قانونگذاران از قبل از انتخابات ۲۰۱۶ از رویکرد نسبتاً سهل‌انگارانه خود در قبال صنعت هوش مصنوعی ابراز پشیمانی کرده‌اند. اولین جلسه استماع آنها با زاکربرگ، مدیرعامل متا، در سال ۲۰۱۸ برگزار شد، زمانی که فیس‌بوک از قبل غولی بود و تازه از رسوایی کمبریج آنالیتیکا که داده‌های ۸۷ میلیون کاربر فیس‌بوک را جمع‌آوری کرده بود، بیرون آمده بود.

در آن زمان، علیرغم اجماع گسترده دو حزبی مبنی بر اینکه هوش مصنوعی یک تهدید محسوب می‌شود، قانون‌گذاران نتوانستند بر سر قوانینی برای کنترل استفاده یا توسعه آن به توافق برسند.

(منبع: روزنامه تین توک/فاکس نیوز؛ واشنگتن پست)

مفید
احساسات
خلاق
منحصر به فرد
خشم

منبع: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html