چقدر هوش مصنوعی را درک می‌کنید؟ در اینجا 7 اصطلاح وجود دارد که باید بدانید.

Công Luận•12/08/2023

توسعه سریع هوش مصنوعی (AI) نگرانی‌هایی را برانگیخته است مبنی بر اینکه این فناوری سریع‌تر از آنچه انسان‌ها بتوانند تأثیر آن را درک کنند، در حال تکامل است.

هر اصطلاح را چقدر خوب می‌فهمید؟ در زیر 7 اصطلاحی که باید بدانید آورده شده است (شکل 1). — عکس: ST

استفاده از هوش مصنوعی به طور کلی از زمان ظهور ابزارهایی مانند ChatGPT به طور قابل توجهی افزایش یافته است. در حالی که این ابزارها مزایای زیادی ارائه می‌دهند، می‌توانند به روش‌های مضر نیز مورد سوءاستفاده قرار گیرند.

برای مدیریت این ریسک، ایالات متحده و بسیاری از کشورهای دیگر با هفت شرکت از جمله آمازون، آنتروپیک، گوگل، اینفلکشن، متا، مایکروسافت و اوپن‌ای‌آی توافق‌نامه‌هایی امضا کرده‌اند تا به رویه‌های ایمن در توسعه فناوری هوش مصنوعی متعهد شوند.

اعلامیه کاخ سفید شامل مجموعه‌ای از اصطلاحات خاص خود بود که ممکن است برای افراد عادی ناآشنا باشد، مانند کلماتی مانند «تیم قرمز» و «نهان‌نگاری». در اینجا هفت اصطلاح قابل توجه مرتبط با هوش مصنوعی آورده شده است.

یادگیری ماشین

این شاخه از هوش مصنوعی با هدف آموزش ماشین‌ها برای انجام دقیق یک کار خاص با شناسایی الگوها انجام می‌شود. سپس ماشین می‌تواند بر اساس آن داده‌ها پیش‌بینی‌هایی انجام دهد.

یادگیری عمیق

وظایف خلاقانه هوش مصنوعی اغلب به یادگیری عمیق متکی هستند، روشی که شامل آموزش رایانه‌ها برای استفاده از شبکه‌های عصبی - مجموعه‌ای از الگوریتم‌های طراحی‌شده برای تقلید از نورون‌های مغز انسان - برای ایجاد ارتباطات پیچیده بین الگوها برای تولید متن، تصاویر یا سایر محتوا است.

از آنجا که مدل‌های یادگیری عمیق دارای لایه‌های متعددی از نورون‌ها هستند، می‌توانند الگوهای پیچیده‌تری را نسبت به یادگیری ماشین سنتی یاد بگیرند.

مدل زبان بزرگ

یک مدل زبان بزرگ یا LLM، بر روی حجم عظیمی از داده‌ها آموزش داده می‌شود و هدف آن مدل‌سازی زبان یا پیش‌بینی کلمه بعدی در یک توالی است. مدل‌های زبان بزرگ، مانند ChatGPT و Google Bard، می‌توانند برای کارهایی از جمله خلاصه‌سازی، ترجمه و مکالمه استفاده شوند.

الگوریتم

مجموعه‌ای از دستورالعمل‌ها یا قوانین که به ماشین‌ها اجازه می‌دهد پیش‌بینی کنند، مشکلات را حل کنند یا وظایف را انجام دهند. الگوریتم‌ها می‌توانند توصیه‌های خرید ارائه دهند و به تشخیص کلاهبرداری و همچنین عملکردهای چت خدمات مشتری کمک کنند.

تعصب

از آنجا که هوش مصنوعی با استفاده از مجموعه داده‌های بزرگ آموزش داده می‌شود، می‌تواند اطلاعات مضری مانند نفرت‌پراکنی را در داده‌ها بگنجاند. نژادپرستی و تبعیض جنسیتی نیز می‌توانند در مجموعه داده‌های مورد استفاده برای آموزش هوش مصنوعی ظاهر شوند و منجر به محتوای گمراه‌کننده شوند.

شرکت‌های هوش مصنوعی توافق کرده‌اند که تحقیقات بیشتری در مورد چگونگی جلوگیری از تعصب و تبعیض مضر در سیستم‌های هوش مصنوعی انجام دهند.

تیم قرمز

یکی از تعهداتی که شرکت‌ها به کاخ سفید داده‌اند، پیاده‌سازی «تیم قرمز» در داخل و خارج از مدل‌ها و سیستم‌های هوش مصنوعی است.

«تیم قرمز» به آزمایش یک مدل برای شناسایی آسیب‌های احتمالی اشاره دارد. این اصطلاح از یک تمرین نظامی سرچشمه می‌گیرد که در آن یک تیم، اقدامات یک مهاجم را برای تدوین استراتژی‌ها شبیه‌سازی می‌کند.

این روش به طور گسترده برای آزمایش آسیب‌پذیری‌های امنیتی در سیستم‌هایی مانند پلتفرم‌های محاسبات ابری شرکت‌هایی مانند مایکروسافت و گوگل استفاده می‌شود.

واترمارکینگ

واترمارک روشی برای تعیین این است که آیا یک شیء صوتی یا تصویری توسط هوش مصنوعی ایجاد شده است یا خیر. حقایقی که برای تأیید استفاده می‌شوند ممکن است شامل اطلاعاتی در مورد خالق و همچنین نحوه و زمان ایجاد یا ویرایش آن باشند.

برای مثال، مایکروسافت متعهد شده است که تصاویر ایجاد شده توسط ابزارهای هوش مصنوعی خود را واترمارک کند. شرکت‌ها همچنین به کاخ سفید متعهد شده‌اند که یک «واترمارک» به تصاویر اضافه کنند یا منشأ آنها را ثبت کنند... تا آنها را به عنوان تصاویر تولید شده توسط هوش مصنوعی شناسایی کنند.

واترمارک‌ها معمولاً برای ردیابی نقض مالکیت معنوی نیز استفاده می‌شوند. واترمارک‌های تصاویر تولید شده توسط هوش مصنوعی می‌توانند به صورت نویز نامحسوس، مانند تغییر جزئی در هر پیکسل هفتم، ظاهر شوند.

با این حال، ایجاد واترمارک برای متن تولید شده توسط هوش مصنوعی می‌تواند پیچیده‌تر باشد و ممکن است شامل تنظیم الگوهای کلمات باشد تا بتوان آن را به عنوان محتوای تولید شده توسط هوش مصنوعی شناسایی کرد.

هوانگ تن (طبق گفته پوینتر)

منبع