Společnost Meta právě vydala novou sadu nástrojů pro zabezpečení v oblasti umělé inteligence s otevřeným zdrojovým kódem.

obrázek111.jpg — Společnost Meta se snaží etablovat jako průkopník ve vývoji technologií umělé inteligence.

Společnost Meta představila Purple Llama, projekt zaměřený na vytváření open-source nástrojů pro vývojáře, které jim umožňují vyhodnocovat a zlepšovat spolehlivost a bezpečnost generovaných modelů umělé inteligence (AI) před jejich nasazením.

Meta zdůraznil potřebu společného úsilí při zajišťování bezpečnosti umělé inteligence a zároveň uvedl, že výzvy v oblasti umělé inteligence nelze řešit izolovaně.

Společnost uvedla, že cílem Purple Llama je vytvořit společnou platformu pro vývoj bezpečnější generativní umělé inteligence uprostřed rostoucích obav ohledně modelů velkých jazyků a dalších technologií umělé inteligence.

Gareth Lindahl-Wise, ředitel informační bezpečnosti ve firmě Ontinue, která se zabývá kybernetickou bezpečností, označil Purple Llama za „pozitivní a proaktivní krok“ směrem k bezpečnějším technologiím umělé inteligence.

Projekt Purple Llama spolupracuje s vývojáři umělé inteligence, cloudovými službami, jako jsou AWS a Google Cloud, polovodičovými společnostmi, jako jsou Intel, AMD a Nvidia, a softwarovými společnostmi, včetně Microsoftu.

První sadou nástrojů vydanou prostřednictvím společnosti Purple Llama je CyberSecEval – nástroj pro hodnocení kybernetických bezpečnostních rizik s využitím umělé inteligence.

Má jazykový vzorec, který identifikuje nevhodný nebo škodlivý text, včetně diskusí o násilí nebo nezákonné činnosti.

Vývojáři mohou pomocí CyberSecEval ověřit, zda jsou jejich modely umělé inteligence náchylné ke generování nezabezpečeného kódu nebo k podpoře kybernetických útoků.

Výzkum společnosti Meta zjistil, že rozsáhlé jazykové modely často naznačují zranitelný kód, což zdůrazňuje důležitost neustálého testování a vylepšování pro bezpečnost umělé inteligence.

Llama Guard je další sada nástrojů – rozsáhlý jazykový model vycvičený k identifikaci potenciálně škodlivého nebo urážlivého jazyka.

Vývojáři mohou pomocí nástroje Llama Guard zkontrolovat, zda jejich model generuje nebo přijímá nebezpečný obsah, a tím odfiltrovat výzvy, které by mohly vést k nevhodnému výstupu.

(podle IFW)

Silně investuje do umělé inteligence a spouští pět nových kvantových projektů.

Bude investovat značné prostředky do vývoje rozsáhlých kvantových počítačů a podpory nových technologií, včetně vybudování nejvýkonnějšího superpočítače s umělou inteligencí v zemi, Isambard.

Pás GUIDi s umělou inteligencí nahrazuje hole pro zrakově postižené.

Díky využití technologie umělé inteligence se tento high-tech pás stane společníkem pro zrakově postižené a nahradí těžkopádné hole.

Aliance technologických gigantů zaměřená na open-source umělou inteligenci bude konkurovat OpenAI.

Společnosti Meta, IBM, Intel, Sony, Dell a další technologické společnosti nedávno oznámily založení aliance Open Source AI Alliance s cílem vyvíjet odpovědné technologie se zaměřením na bezpečnostní opatření.

Unikátní přístup k vývoji chatbotů s umělou inteligencí v Číně.

Čínské technologické společnosti využívají nevyužitý trh společností OpenAI a Google a sklízejí značné zisky z trendu personalizace ve vývoji chatbotů s umělou inteligencí.

Zdroj