Meta har precis släppt en ny verktygslåda för AI-säkerhet med öppen källkod.

[annons_1]

Meta strävar efter att etablera sig som en pionjär inom utvecklingen av AI-teknik.

Meta har introducerat Purple Llama, ett projekt dedikerat till att skapa verktyg med öppen källkod för utvecklare för att utvärdera och förbättra tillförlitligheten och säkerheten hos genererade modeller för artificiell intelligens (AI) innan de distribueras.

Meta betonade behovet av gemensamma insatser för att säkerställa AI-säkerhet, samtidigt som han konstaterade att AI-utmaningar inte kan hanteras isolerat.

Företaget uppgav att Purple Llamas mål är att etablera en gemensam plattform för att utveckla säkrare generativ AI mitt i växande oro kring stora språkmodeller och andra AI-tekniker.

Gareth Lindahl-Wise, chef för informationssäkerhet på cybersäkerhetsföretaget Ontinue, kallade Purple Llama för "ett positivt och proaktivt steg" mot säkrare AI-teknik.

Project Purple Llama samarbetar med AI-utvecklare; molntjänster som AWS och Google Cloud; halvledarföretag som Intel, AMD och Nvidia; och mjukvaruföretag, inklusive Microsoft.

Den första verktygslådan som släpptes via Purple Llama är CyberSecEval – ett AI-drivet verktyg för riskbedömning av cybersäkerhet.

Den har ett språkmönster som identifierar olämplig eller skadlig text, inklusive diskussioner om våld eller olaglig aktivitet.

Utvecklare kan använda CyberSecEval för att kontrollera om deras AI-modeller är benägna att generera osäker kod eller stödja cyberattacker.

Metas forskning har visat att stora språkmodeller ofta tyder på sårbar kod, vilket belyser vikten av kontinuerlig testning och förbättring för AI-säkerhet.

Llama Guard är ytterligare en verktygslåda – en stor språkmodell som tränats för att identifiera potentiellt skadligt eller stötande språk.

Utvecklare kan använda Llama Guard för att kontrollera om deras modell genererar eller accepterar osäkert innehåll, vilket hjälper till att filtrera bort uppmaningar som kan leda till olämplig utdata.

(enligt IFW)

Han investerar kraftigt i AI och lanserar fem nya kvantprojekt.

Han kommer att investera kraftigt i utveckling av storskaliga kvantdatorer och stödja nya tekniker, inklusive att bygga landets kraftfullaste AI-superdator, Isambard.

GUIDi AI-bältet ersätter käppar för synskadade.

Genom att tillämpa AI-teknik kommer detta högteknologiska bälte att bli en följeslagare för synskadade och ersätta otympliga käppar.

Teknikjättarnas allians av öppen källkodsbaserad AI kommer att konkurrera med OpenAI.

Meta, IBM, Intel, Sony, Dell och andra teknikföretag har nyligen tillkännagivit bildandet av Open Source AI Alliance för att utveckla ansvarsfull teknik, med fokus på säkerhetsåtgärder.

En unik metod för utveckling av AI-chatbotar i Kina.

Genom att dra nytta av den outnyttjade marknaden som OpenAI och Google har skapat, skördar kinesiska teknikföretag betydande vinster på personaliseringstrenden inom utveckling av AI-chattrobotar.

[annons_2]
Källa