Meta har nettopp lansert et nytt verktøysett med åpen kildekode for AI-sikkerhet.

Meta streber etter å etablere seg som en pioner innen utvikling av AI-teknologier.

Meta har introdusert Purple Llama, et prosjekt dedikert til å lage verktøy med åpen kildekode for utviklere for å evaluere og forbedre påliteligheten og sikkerheten til genererte kunstig intelligens (KI)-modeller før de distribueres.

Meta understreket behovet for samarbeid for å sikre sikkerhet innen kunstig intelligens, samtidig som den uttalte at utfordringer innen kunstig intelligens ikke kan løses isolert.

Selskapet uttalte at Purple Llamas mål er å etablere en felles plattform for å utvikle tryggere generativ AI midt i økende bekymringer om store språkmodeller og andre AI-teknologier.

Gareth Lindahl-Wise, direktør for informasjonssikkerhet i cybersikkerhetsfirmaet Ontinue, kalte Purple Llama «et positivt og proaktivt skritt» mot tryggere AI-teknologi.

Project Purple Llama samarbeider med AI-utviklere; skytjenester som AWS og Google Cloud; halvlederselskaper som Intel, AMD og Nvidia; og programvareselskaper, inkludert Microsoft.

Det første verktøysettet som ble lansert gjennom Purple Llama er CyberSecEval – et AI-drevet programvareverktøy for risikovurdering av cybersikkerhet.

Den har et språkmønster som identifiserer upassende eller skadelig tekst, inkludert diskusjoner om vold eller ulovlig aktivitet.

Utviklere kan bruke CyberSecEval til å sjekke om AI-modellene deres er utsatt for å generere usikker kode eller støtte cyberangrep.

Metas forskning har funnet at store språkmodeller ofte antyder sårbar kode, noe som fremhever viktigheten av kontinuerlig testing og forbedring for AI-sikkerhet.

Llama Guard er et annet verktøysett – en stor språkmodell som er trent til å identifisere potensielt skadelig eller støtende språk.

Utviklere kan bruke Llama Guard til å sjekke om modellen deres genererer eller godtar usikkert innhold, noe som bidrar til å filtrere ut forespørsler som kan føre til upassende utdata.

(ifølge IFW)

Han investerer tungt i AI og lanserer fem nye kvanteprosjekter.

Han vil investere tungt i utvikling av storskala kvantedatamaskiner og støtte til nye teknologier, inkludert bygging av landets kraftigste AI-superdatamaskin, Isambard.

GUIDi AI-beltet erstatter stokker for synshemmede.

Ved å bruke AI-teknologi vil dette høyteknologiske beltet bli en følgesvenn for synshemmede, og erstatte tungvinte stokker.

Teknologigigantenes allianse av åpen kildekode-AI vil konkurrere med OpenAI.

Meta, IBM, Intel, Sony, Dell og andre teknologiselskaper har nylig annonsert dannelsen av Open Source AI Alliance for å utvikle ansvarlig teknologi, med fokus på sikkerhetstiltak.

En unik tilnærming til utvikling av AI-chatboter i Kina.

Ved å utnytte det uutnyttede markedet til OpenAI og Google, høster kinesiske teknologiselskaper betydelig profitt fra personaliseringstrenden innen utvikling av AI-chatboter.

Kilde: https://vietnamnet.vn/meta-moi-phat-hanh-bo-cong-cu-nguon-mo-bao-dam-an-toan-ai-2225140.html