Meta baru saja merilis perangkat lunak keamanan AI sumber terbuka yang baru.

Meta berupaya memposisikan diri sebagai pelopor dalam pengembangan teknologi AI.

Meta telah memperkenalkan Purple Llama, sebuah proyek yang didedikasikan untuk menciptakan alat sumber terbuka bagi para pengembang untuk mengevaluasi dan meningkatkan keandalan serta keamanan model kecerdasan buatan (AI) yang dihasilkan sebelum digunakan.

Meta menekankan perlunya upaya kolaboratif dalam memastikan keamanan AI, sekaligus menyatakan bahwa tantangan AI tidak dapat diatasi secara terisolasi.

Perusahaan tersebut menyatakan bahwa tujuan Purple Llama adalah untuk membangun platform bersama untuk mengembangkan AI generatif yang lebih aman di tengah meningkatnya kekhawatiran tentang model bahasa besar dan teknologi AI lainnya.

Gareth Lindahl-Wise, Direktur Keamanan Informasi di perusahaan keamanan siber Ontinue, menyebut Purple Llama sebagai “langkah positif dan proaktif” menuju teknologi AI yang lebih aman.

Project Purple Llama berkolaborasi dengan pengembang AI; layanan cloud seperti AWS dan Google Cloud; perusahaan semikonduktor seperti Intel, AMD, dan Nvidia; dan perusahaan perangkat lunak, termasuk Microsoft.

Perangkat lunak pertama yang dirilis melalui Purple Llama adalah CyberSecEval – sebuah alat penilaian risiko keamanan siber berbasis AI.

Sistem ini memiliki pola bahasa yang mengidentifikasi teks yang tidak pantas atau berbahaya, termasuk diskusi tentang kekerasan atau aktivitas ilegal.

Pengembang dapat menggunakan CyberSecEval untuk memeriksa apakah model AI mereka rentan menghasilkan kode yang tidak aman atau mendukung serangan siber.

Penelitian Meta menemukan bahwa model bahasa yang besar sering kali menunjukkan kode yang rentan, yang menyoroti pentingnya pengujian dan peningkatan berkelanjutan untuk keamanan AI.

Llama Guard adalah perangkat bantu lainnya – sebuah model bahasa besar yang dilatih untuk mengidentifikasi bahasa yang berpotensi berbahaya atau menyinggung.

Pengembang dapat menggunakan Llama Guard untuk memeriksa apakah model mereka menghasilkan atau menerima konten yang tidak aman, sehingga membantu menyaring perintah yang dapat menyebabkan keluaran yang tidak pantas.

(menurut IFW)

Dia berinvestasi besar-besaran di bidang AI, meluncurkan lima proyek kuantum baru.

Dia akan berinvestasi besar-besaran dalam pengembangan komputer kuantum skala besar dan mendukung teknologi baru, termasuk membangun superkomputer AI paling canggih di negara itu, Isambard.

Sabuk GUIDi AI menggantikan tongkat bagi penyandang tunanetra.

Dengan menerapkan teknologi AI, sabuk berteknologi tinggi ini akan menjadi teman bagi penyandang tunanetra, menggantikan tongkat yang berat.

Aliansi AI sumber terbuka dari raksasa teknologi akan bersaing dengan OpenAI.

Meta, IBM, Intel, Sony, Dell, dan perusahaan teknologi lainnya baru-baru ini mengumumkan pembentukan Aliansi AI Sumber Terbuka untuk mengembangkan teknologi yang bertanggung jawab, dengan fokus pada langkah-langkah keamanan.

Pendekatan unik untuk pengembangan chatbot AI di Tiongkok.

Dengan memanfaatkan pasar yang belum tergarap oleh OpenAI dan Google, perusahaan teknologi Tiongkok menuai keuntungan signifikan dari tren personalisasi dalam pengembangan chatbot AI.

Sumber