متا به تازگی یک جعبه ابزار امنیتی هوش مصنوعی متن‌باز جدید منتشر کرده است.

تصویر111.jpg — متا در تلاش است تا خود را به عنوان پیشگام در توسعه فناوری‌های هوش مصنوعی تثبیت کند.

شرکت متا، پروژه‌ای به نام Purple Llama را معرفی کرده است که به ایجاد ابزارهای متن‌باز برای توسعه‌دهندگان اختصاص دارد تا بتوانند قابلیت اطمینان و ایمنی مدل‌های هوش مصنوعی (AI) تولید شده را قبل از استقرار، ارزیابی و بهبود بخشند.

متا بر لزوم تلاش‌های مشترک برای تضمین ایمنی هوش مصنوعی تأکید کرد، ضمن اینکه اظهار داشت که چالش‌های هوش مصنوعی را نمی‌توان به صورت جداگانه بررسی کرد.

این شرکت اظهار داشت که هدف Purple Llama ایجاد یک پلتفرم مشترک برای توسعه هوش مصنوعی مولد ایمن‌تر در بحبوحه نگرانی‌های فزاینده در مورد مدل‌های زبانی بزرگ و سایر فناوری‌های هوش مصنوعی است.

گرت لیندال-وایز، مدیر امنیت اطلاعات در شرکت امنیت سایبری Ontinue، Purple Llama را «گامی مثبت و پیشگیرانه» به سوی فناوری هوش مصنوعی امن‌تر خواند.

پروژه‌ی Purple Llama با توسعه‌دهندگان هوش مصنوعی، سرویس‌های ابری مانند AWS و Google Cloud، شرکت‌های تولیدکننده‌ی نیمه‌هادی مانند Intel، AMD و Nvidia و شرکت‌های نرم‌افزاری از جمله مایکروسافت همکاری می‌کند.

اولین جعبه ابزاری که از طریق Purple Llama منتشر شد، CyberSecEval است - یک ابزار ارزیابی ریسک امنیت سایبری نرم‌افزاری مبتنی بر هوش مصنوعی.

این یک الگوی زبانی دارد که متن نامناسب یا مضر، از جمله بحث‌های مربوط به خشونت یا فعالیت‌های غیرقانونی، را شناسایی می‌کند.

توسعه‌دهندگان می‌توانند از CyberSecEval برای بررسی اینکه آیا مدل‌های هوش مصنوعی آنها مستعد تولید کد ناامن یا پشتیبانی از حملات سایبری هستند یا خیر، استفاده کنند.

تحقیقات متا نشان داده است که مدل‌های زبانی بزرگ اغلب کد آسیب‌پذیر را پیشنهاد می‌دهند و این موضوع اهمیت آزمایش و بهبود مداوم برای امنیت هوش مصنوعی را برجسته می‌کند.

Llama Guard یک جعبه ابزار دیگر است - یک مدل زبانی بزرگ که برای شناسایی زبان‌های بالقوه مضر یا توهین‌آمیز آموزش دیده است.

توسعه‌دهندگان می‌توانند از Llama Guard برای بررسی اینکه آیا مدلشان محتوای ناامن تولید یا پذیرش می‌کند، استفاده کنند و به فیلتر کردن پیام‌هایی که می‌توانند منجر به خروجی نامناسب شوند، کمک کنند.

(طبق گزارش IFW)

او سرمایه‌گذاری سنگینی در هوش مصنوعی انجام می‌دهد و پنج پروژه کوانتومی جدید راه‌اندازی کرده است.

او سرمایه‌گذاری هنگفتی در توسعه رایانه‌های کوانتومی در مقیاس بزرگ و پشتیبانی از فناوری‌های جدید، از جمله ساخت قدرتمندترین ابررایانه هوش مصنوعی کشور، ایزامبارد، انجام خواهد داد.

کمربند هوش مصنوعی GUIDi جایگزین عصا برای افراد کم‌بینا می‌شود.

با به‌کارگیری فناوری هوش مصنوعی، این کمربند پیشرفته به همراهی برای افراد کم‌بینا تبدیل خواهد شد و جایگزین عصاهای دست و پاگیر خواهد شد.

اتحاد هوش مصنوعی متن‌باز متشکل از غول‌های فناوری، با OpenAI رقابت خواهد کرد.

شرکت‌های متا، آی‌بی‌ام، اینتل، سونی، دل و دیگر شرکت‌های فناوری اخیراً از تشکیل اتحاد هوش مصنوعی متن‌باز برای توسعه فناوری مسئولانه با تمرکز بر اقدامات ایمنی خبر داده‌اند.