Firma Meta właśnie wydała nowy zestaw narzędzi open-source do zabezpieczania sztucznej inteligencji.

[reklama_1]

Meta dąży do tego, aby stać się pionierem w rozwoju technologii sztucznej inteligencji.

Firma Meta wprowadziła projekt Purple Llama, którego celem jest tworzenie narzędzi typu open source, które umożliwiają programistom ocenę i zwiększanie niezawodności oraz bezpieczeństwa generowanych modeli sztucznej inteligencji (AI) przed ich wdrożeniem.

Meta podkreślił potrzebę współpracy w celu zapewnienia bezpieczeństwa sztucznej inteligencji, stwierdzając jednocześnie, że wyzwań związanych ze sztuczną inteligencją nie da się rozwiązać w oderwaniu od innych dziedzin.

Firma oświadczyła, że celem Purple Llama jest utworzenie wspólnej platformy do opracowywania bezpieczniejszej generatywnej sztucznej inteligencji w obliczu rosnących obaw dotyczących dużych modeli językowych i innych technologii sztucznej inteligencji.

Gareth Lindahl-Wise, dyrektor ds. bezpieczeństwa informacji w firmie zajmującej się cyberbezpieczeństwem Ontinue, nazwał Purple Llama „pozytywnym i proaktywnym krokiem” w kierunku bezpieczniejszej technologii sztucznej inteligencji.

Projekt Purple Llama współpracuje z twórcami sztucznej inteligencji, dostawcami usług w chmurze, takimi jak AWS i Google Cloud, firmami produkującymi półprzewodniki, takimi jak Intel, AMD i Nvidia, oraz firmami zajmującymi się oprogramowaniem, w tym Microsoft.

Pierwszym zestawem narzędzi udostępnionym przez Purple Llama jest CyberSecEval – narzędzie do oceny ryzyka cyberbezpieczeństwa oparte na sztucznej inteligencji.

Zawiera wzorzec językowy, który identyfikuje nieodpowiednie lub szkodliwe teksty, w tym dyskusje na temat przemocy lub działań niezgodnych z prawem.

Deweloperzy mogą używać CyberSecEval, aby sprawdzać, czy ich modele sztucznej inteligencji są podatne na generowanie niebezpiecznego kodu lub wspieranie cyberataków.

Badania Meta wykazały, że duże modele językowe często sugerują istnienie podatnego na ataki kodu, co podkreśla znaczenie ciągłego testowania i udoskonalania bezpieczeństwa sztucznej inteligencji.

Llama Guard to kolejny zestaw narzędzi – rozbudowany model językowy, który został wyszkolony w celu identyfikowania potencjalnie szkodliwego lub obraźliwego języka.

Programiści mogą używać narzędzia Llama Guard, aby sprawdzać, czy ich model generuje lub akceptuje niebezpieczną treść, co pozwala im odfiltrować komunikaty, które mogłyby prowadzić do niewłaściwych wyników.

(według IFW)

Inwestuje ogromne sumy w sztuczną inteligencję, uruchamiając pięć nowych projektów kwantowych.

Zainwestuje znaczne środki w rozwój komputerów kwantowych na dużą skalę i wspieranie nowych technologii, w tym w budowę najpotężniejszego w kraju superkomputera AI, Isambarda.

Pas GUIDi AI zastępuje laskę osobom niedowidzącym.

Dzięki zastosowaniu technologii AI ten zaawansowany technologicznie pas stanie się towarzyszem osób niedowidzących, zastępując niewygodne laski.

Sojusz gigantów technologicznych zajmujących się rozwiązaniami open-source w dziedzinie sztucznej inteligencji będzie konkurował z OpenAI.

Meta, IBM, Intel, Sony, Dell i inne firmy technologiczne ogłosiły niedawno powstanie sojuszu Open Source AI Alliance, którego celem jest opracowywanie odpowiedzialnych technologii, ze szczególnym uwzględnieniem środków bezpieczeństwa.

Unikalne podejście do rozwoju chatbotów opartych na sztucznej inteligencji w Chinach.

Wykorzystując niezagospodarowany rynek OpenAI i Google, chińskie firmy technologiczne czerpią znaczne zyski z personalizacji trendu w rozwoju chatbotów opartych na sztucznej inteligencji.

Źródło