Meta acaba de lanzar un nuevo conjunto de herramientas de seguridad de IA de código abierto.

Meta se esfuerza por consolidarse como pionera en el desarrollo de tecnologías de IA.

Meta ha presentado Purple Llama, un proyecto dedicado a crear herramientas de código abierto para que los desarrolladores evalúen y mejoren la fiabilidad y la seguridad de los modelos de inteligencia artificial (IA) generados antes de su implementación.

Meta hizo hincapié en la necesidad de esfuerzos colaborativos para garantizar la seguridad de la IA, al tiempo que afirmó que los desafíos de la IA no pueden abordarse de forma aislada.

La empresa afirmó que el objetivo de Purple Llama es establecer una plataforma común para el desarrollo de una IA generativa más segura, en medio de la creciente preocupación por los grandes modelos de lenguaje y otras tecnologías de IA.

Gareth Lindahl-Wise, director de seguridad de la información en la empresa de ciberseguridad Ontinue, calificó a Purple Llama como "un paso positivo y proactivo" hacia una tecnología de IA más segura.

El proyecto Purple Llama colabora con desarrolladores de IA; servicios en la nube como AWS y Google Cloud; empresas de semiconductores como Intel, AMD y Nvidia; y empresas de software, incluida Microsoft.

La primera herramienta lanzada a través de Purple Llama es CyberSecEval, una herramienta de evaluación de riesgos de ciberseguridad basada en inteligencia artificial.

Posee un patrón lingüístico que identifica textos inapropiados o dañinos, incluyendo discusiones sobre violencia o actividades ilegales.

Los desarrolladores pueden usar CyberSecEval para comprobar si sus modelos de IA son propensos a generar código inseguro o a facilitar ciberataques.

La investigación de Meta ha descubierto que los modelos de lenguaje complejos a menudo sugieren código vulnerable, lo que subraya la importancia de las pruebas y mejoras continuas para la seguridad de la IA.

Llama Guard es otro conjunto de herramientas: un modelo lingüístico extenso entrenado para identificar lenguaje potencialmente dañino u ofensivo.

Los desarrolladores pueden usar Llama Guard para comprobar si su modelo está generando o aceptando contenido inseguro, lo que ayuda a filtrar las indicaciones que podrían dar lugar a resultados inapropiados.

(según IFW)

Está invirtiendo fuertemente en inteligencia artificial y ha lanzado cinco nuevos proyectos cuánticos.

Invertirá fuertemente en el desarrollo de computadoras cuánticas a gran escala y en el apoyo a nuevas tecnologías, incluida la construcción de Isambard, la supercomputadora de IA más potente del país.

El cinturón con inteligencia artificial GUIDi sustituye los bastones para las personas con discapacidad visual.

Mediante la aplicación de la tecnología de IA, este cinturón de alta tecnología se convertirá en un compañero para las personas con discapacidad visual, sustituyendo los engorrosos bastones.

La alianza de gigantes tecnológicos de IA de código abierto competirá con OpenAI.

Meta, IBM, Intel, Sony, Dell y otras empresas tecnológicas han anunciado recientemente la formación de la Alianza de IA de Código Abierto para desarrollar tecnología responsable, con especial atención a las medidas de seguridad.

Un enfoque único para el desarrollo de chatbots con inteligencia artificial en China.

Aprovechando el mercado sin explotar de OpenAI y Google, las empresas tecnológicas chinas están obteniendo importantes beneficios de la tendencia a la personalización en el desarrollo de chatbots de IA.

Fuente