A Meta acaba de lançar um novo kit de ferramentas de segurança de IA de código aberto.

A Meta está empenhada em se consolidar como pioneira no desenvolvimento de tecnologias de IA.

A Meta apresentou o Purple Llama, um projeto dedicado à criação de ferramentas de código aberto para que os desenvolvedores avaliem e aprimorem a confiabilidade e a segurança dos modelos de inteligência artificial (IA) gerados antes de sua implantação.

Meta enfatizou a necessidade de esforços colaborativos para garantir a segurança da IA, afirmando também que os desafios da IA não podem ser abordados isoladamente.

A empresa afirmou que o objetivo da Purple Llama é estabelecer uma plataforma comum para o desenvolvimento de IA generativa mais segura, em meio às crescentes preocupações com grandes modelos de linguagem e outras tecnologias de IA.

Gareth Lindahl-Wise, Diretor de Segurança da Informação da empresa de cibersegurança Ontinue, classificou o Purple Llama como "um passo positivo e proativo" rumo a uma tecnologia de IA mais segura.

O Projeto Lhama Roxa colabora com desenvolvedores de IA; serviços em nuvem como AWS e Google Cloud; empresas de semicondutores como Intel, AMD e Nvidia; e empresas de software, incluindo a Microsoft.

O primeiro conjunto de ferramentas lançado pela Purple Llama é o CyberSecEval – uma ferramenta de avaliação de riscos de cibersegurança de software baseada em inteligência artificial.

Possui um padrão linguístico que identifica textos inadequados ou prejudiciais, incluindo discussões sobre violência ou atividades ilegais.

Os desenvolvedores podem usar o CyberSecEval para verificar se seus modelos de IA são propensos a gerar código inseguro ou a facilitar ataques cibernéticos.

A pesquisa da Meta descobriu que grandes modelos de linguagem frequentemente sugerem códigos vulneráveis, destacando a importância de testes e melhorias contínuas para a segurança da IA.

O Llama Guard é outro conjunto de ferramentas – um modelo de linguagem abrangente treinado para identificar linguagem potencialmente prejudicial ou ofensiva.

Os desenvolvedores podem usar o Llama Guard para verificar se o modelo está gerando ou aceitando conteúdo inseguro, ajudando a filtrar avisos que possam levar a resultados inadequados.

(de acordo com a IFW)

Ele está investindo pesado em IA, lançando cinco novos projetos quânticos.

Ele investirá fortemente no desenvolvimento de computadores quânticos de grande escala e no apoio a novas tecnologias, incluindo a construção do supercomputador de IA mais poderoso do país, o Isambard.

O cinto GUIDi AI substitui as bengalas para pessoas com deficiência visual.

Ao aplicar tecnologia de IA, este cinto de alta tecnologia se tornará um companheiro para deficientes visuais, substituindo as bengalas incômodas.

A aliança de IA de código aberto formada por gigantes da tecnologia competirá com a OpenAI.

Meta, IBM, Intel, Sony, Dell e outras empresas de tecnologia anunciaram recentemente a formação da Open Source AI Alliance para desenvolver tecnologia responsável, com foco em medidas de segurança.

Uma abordagem única para o desenvolvimento de chatbots com IA na China.

Aproveitando o mercado inexplorado pela OpenAI e pelo Google, as empresas de tecnologia chinesas estão colhendo lucros significativos com a tendência de personalização no desenvolvimento de chatbots de IA.

Fonte