Meta lanza Purple Llama para un desarrollo responsable de modelos abiertos de IA

La inteligencia artificial (IA) es una tecnología que se ha abierto hueco entre usuarios y empresas con rapidez por su capacidad para automatizar tareas y potenciar la creatividad. Pero también está siendo utilizada por los ciberdelincuentes para idear ataques más efectivos.

Por eso Meta, que participa en el mercado con su modelo de lenguaje Llama, ha decidido poner en marcha Purple Llama. Esto es, un proyecto con el que proporcionar herramientas y evaluaciones a los desarrolladores para que trabajen de forma responsable con los modelos abiertos de IA generativa.

Purple Llama arranca apoyado por un nutrido grupo de socios de la industria, como son AI Alliance, AMD, Anyscale, AWS, Bain, CloudFlare, Databricks, Dell Technologies, Dropbox, Google Cloud, Hugging Face, IBM, Intel, Microsoft, MLCommons, Nvidia, Oracle, Orange, Scale AI y Together.AI.

Su nombre surge de conceptos conocidos en el mundo de la ciberseguridad. “Creemos que para mitigar verdaderamente los desafíos que presenta la IA generativa, debemos adoptar posturas tanto de ataque (equipo rojo) como de defensa (equipo azul)“, explican desde Meta. Esto da como resultado el color morado y un proyecto con un “enfoque colaborativo para evaluar y mitigar los riesgos potenciales”.

Por un lado, Meta, ofrecerá una serie de benchmarks basados en estándares que permitirán cuantificar el riesgo de seguridad, evaluar la frecuencia con la que se realizan sugerencias de código inseguro por parte de la IA y dificultar la generación de ciberataques. Y, así, reducir la utilidad de los grandes modelos lenguaje para los atacantes.

Por otra parte, Purple Llama introduce el modelo Llama Guard, con el que incide en su objetivo de ayudar a los desarrolladores a no producir resultados potencialmente peligrosos. Esta solución ha sido entrenada con conjuntos de datos que se encuentran disponibles públicamente.

Mónica Tilves

Licenciada en Xornalismo por la Universidad de Santiago de Compostela en la especialidad de Periodismo Electrónico y Multimedia. Apasionada de los gadgets, la fotografía digital, el diseño web y el arte. Tras un primer contacto con el mundo de la prensa escrita y con la suficiencia investigadora debajo del brazo, me decanto por los medios online. Cubro la actualidad informativa en Silicon Week desde 2011, además de colaborar en otras publicaciones del grupo NetMediaEurope en España como Silicon News. Ahora en Silicon.es.

Recent Posts

MASORANGE invertirá más de 130 millones de euros en Barcelona

Este compromiso de MASORANGE con la ciudad condal busca impulsar el desarrollo económico y social.

7 horas ago

Nuevos servidores PowerEdge R670 y R770 de Dell Technologies

Dell Technologies lanza nueva gama de servidores PowerEdge con mejoras significativas en rendimiento y eficiencia.

8 horas ago

En 2026, más del 90 % de las organizaciones sufrirá por la crisis de habilidades TI

Desde IDC advierten de que "nunca ha sido tan difícil conseguir que las personas adecuadas…

11 horas ago

Objetivo Xiaomi: Entregar más de 100.000 vehículos eléctricos en 2024

La compañía ha anunciado los resultados financieros del primer trimestre de su ejercicio 2024, en…

11 horas ago

Un estudio revela el impacto del comercio unificado sobre los ingresos

Un informe de Adyen estima que las empresas experimentaron un incremento del 7 % en…

12 horas ago

Stormshield amplía su familia de cortafuegos

Presenta los dispositivos SN-L-Series-2200, SN-L-Series-3200, SN-XL-Series-5200 y SN-XL-Series-6200.

13 horas ago