Meta baru sahaja mengeluarkan kit alat keselamatan AI sumber terbuka yang baharu.

[iklan_1]

Meta sedang berusaha untuk mengukuhkan kedudukannya sebagai perintis dalam pembangunan teknologi AI.

Meta telah memperkenalkan Purple Llama, sebuah projek yang dikhaskan untuk mencipta alatan sumber terbuka untuk pembangun bagi menilai dan meningkatkan kebolehpercayaan dan keselamatan model kecerdasan buatan (AI) yang dijana sebelum ia digunakan.

Meta menekankan keperluan untuk usaha kolaboratif dalam memastikan keselamatan AI, di samping menyatakan bahawa cabaran AI tidak boleh ditangani secara berasingan.

Syarikat itu menyatakan bahawa matlamat Purple Llama adalah untuk mewujudkan platform bersama bagi membangunkan AI generatif yang lebih selamat di tengah-tengah kebimbangan yang semakin meningkat tentang model bahasa yang besar dan teknologi AI yang lain.

Gareth Lindahl-Wise, Pengarah Keselamatan Maklumat di firma keselamatan siber Ontinue, menggelarkan Purple Llama sebagai “langkah positif dan proaktif” ke arah teknologi AI yang lebih selamat.

Project Purple Llama bekerjasama dengan pembangun AI; perkhidmatan awan seperti AWS dan Google Cloud; syarikat semikonduktor seperti Intel, AMD dan Nvidia; dan syarikat perisian, termasuk Microsoft.

Kit alat pertama yang dikeluarkan melalui Purple Llama ialah CyberSecEval – alat penilaian risiko keselamatan siber perisian berkuasa AI.

Ia mempunyai corak bahasa yang mengenal pasti teks yang tidak sesuai atau berbahaya, termasuk perbincangan tentang keganasan atau aktiviti haram.

Pembangun boleh menggunakan CyberSecEval untuk memeriksa sama ada model AI mereka cenderung untuk menjana kod tidak selamat atau menyokong serangan siber.

Kajian Meta mendapati bahawa model bahasa yang besar sering mencadangkan kod yang terdedah, menonjolkan kepentingan pengujian dan penambahbaikan berterusan untuk keselamatan AI.

Llama Guard ialah satu lagi toolkit – model bahasa besar yang dilatih untuk mengenal pasti bahasa yang berpotensi berbahaya atau menyinggung perasaan.

Pembangun boleh menggunakan Llama Guard untuk memeriksa sama ada model mereka menjana atau menerima kandungan yang tidak selamat, sekali gus membantu menapis gesaan yang boleh membawa kepada output yang tidak sesuai.

(mengikut IFW)

Beliau banyak melabur dalam AI, melancarkan lima projek kuantum baharu.

Beliau akan melabur banyak dalam membangunkan komputer kuantum berskala besar dan menyokong teknologi baharu, termasuk membina superkomputer AI paling berkuasa di negara ini, Isambard.

Tali pinggang GUIDi AI menggantikan tongkat untuk mereka yang cacat penglihatan.

Dengan mengaplikasikan teknologi AI, tali pinggang berteknologi tinggi ini akan menjadi teman bagi mereka yang cacat penglihatan, menggantikan tongkat yang membebankan.

Perikatan AI sumber terbuka yang terdiri daripada gergasi teknologi akan bersaing dengan OpenAI.

Meta, IBM, Intel, Sony, Dell dan syarikat teknologi lain baru-baru ini mengumumkan pembentukan Open Source AI Alliance untuk membangunkan teknologi yang bertanggungjawab, dengan tumpuan kepada langkah-langkah keselamatan.

Pendekatan unik untuk pembangunan chatbot AI di China.

Mengambil kesempatan daripada pasaran yang belum diterokai oleh OpenAI dan Google, syarikat teknologi China sedang mengaut keuntungan yang besar daripada trend pemperibadian dalam pembangunan chatbot AI.

[iklan_2]
Sumber