CyberArk lanza una solución para detectar vulnerabilidades en modelos de IA

CyberArk presenta una herramienta para abordar vulnerabilidades en modelos de inteligencia artificial (IA o AI por sus siglas en inglés), tanto internos como alojados en la nube.

Se llama Fuzzy AI, es una solución de código abierto y permite probar los modelos frente a diferentes técnicas de ataque para detectar puntos débiles.

Esto le permite exponer problemáticas como elusiones de barreras de protección, inyección o fuga de información y generación de resultados dañinos. Las empresas tienen la posibilidad de adaptar las pruebas añadiendo sus propios métodos de ataque.

“El lanzamiento de FuzzyAI subraya el compromiso de CyberArk con la seguridad de la IA y ayuda a las organizaciones a dar un importante paso adelante en la resolución de los problemas de seguridad inherentes al cambiante panorama del uso de modelos de inteligencia artificial“, apunta el director de Producto de CyberArk, Peretz Regev.

“Desarrollado por CyberArk Labs, FuzzyAI ha demostrado la capacidad de hacer jailbreak a todos los modelos de IA probados”, apunta.

“Asimismo”, prosigue, “permite a las organizaciones identificar debilidades y fortalecer sus sistemas de IA contra las amenazas emergentes”.

Redacción Silicon

La redacción de Silicon está compuesta por profesionales del periodismo 2.0

Recent Posts

Exclusive Networks crea una unidad de negocio en España para el segmento pyme

Digital SMB, ofrecerá soluciones paquetizadas, un modelo de pago por uso y los servicios de…

7 horas ago

Microsoft Sovereign Cloud, el modelo de nube soberana de Microsoft para organizaciones europeas

Esta propuesta reúne soluciones de productividad, seguridad y servicios cloud a través de una Nube…

8 horas ago

Cisco anuncia arquitectura de red y dispositivos optimizados para la inteligencia artificial

El nuevo hardware incluye los switches inteligentes Cisco C9350 y C9610 y los routers seguros…

8 horas ago

Zscaler redefine la seguridad empresarial con IA agéntica y Zero Trust en Zenith Live 2025

Zscaler apuesta por la IA agéntica y la arquitectura Zero Trust para transformar la ciberseguridad…

9 horas ago

OVHcloud desplegará su primera “QPU as a service” en septiembre

A finales de año debería haber tres QPU disponibles para clientes de "quantum as a…

9 horas ago

Sisteplant se une a la CEOE

Su presidenta, Ana Santiago Giménez-Bretón, explica que esto le "permitirá colaborar activamente con otras empresas…

10 horas ago