CyberArk lanza una solución para detectar vulnerabilidades en modelos de IA

CyberArk presenta una herramienta para abordar vulnerabilidades en modelos de inteligencia artificial (IA o AI por sus siglas en inglés), tanto internos como alojados en la nube.

Se llama Fuzzy AI, es una solución de código abierto y permite probar los modelos frente a diferentes técnicas de ataque para detectar puntos débiles.

Esto le permite exponer problemáticas como elusiones de barreras de protección, inyección o fuga de información y generación de resultados dañinos. Las empresas tienen la posibilidad de adaptar las pruebas añadiendo sus propios métodos de ataque.

“El lanzamiento de FuzzyAI subraya el compromiso de CyberArk con la seguridad de la IA y ayuda a las organizaciones a dar un importante paso adelante en la resolución de los problemas de seguridad inherentes al cambiante panorama del uso de modelos de inteligencia artificial“, apunta el director de Producto de CyberArk, Peretz Regev.

“Desarrollado por CyberArk Labs, FuzzyAI ha demostrado la capacidad de hacer jailbreak a todos los modelos de IA probados”, apunta.

“Asimismo”, prosigue, “permite a las organizaciones identificar debilidades y fortalecer sus sistemas de IA contra las amenazas emergentes”.

Redacción Silicon

La redacción de Silicon está compuesta por profesionales del periodismo 2.0

Recent Posts

Silicon Pulse: Titulares de la semana T3E5

Bienvenido a un nuevo episodio del podcast semanal Silicon Pulse, un espacio en el que…

7 horas ago

Ya hay 16,4 millones de líneas de fibra óptica en España

Movistar, MASORANGE y Vodafone están detrás de un 84,5 % de las líneas banda ancha…

15 horas ago

NetApp pone el almacenamiento en bloque al alcance de empresas de todos los tamaños

Anuncia los nuevos sistemas NetApp ASA A20, A30 y A50 de alto rendimiento, con ciberresiliencia…

16 horas ago

Qualcomm anuncia su plataforma móvil Snapdragon 6 Gen 4

Los primeros 'smartphones' con Snapdragon 6 Gen 4 en su interior estarán disponibles en unos…

16 horas ago

Western prueba su tecnología HAMR con clientes de hiperescala

La compañía ha compartido su estrategia de futuro durante la celebración del Investor Day 2025

17 horas ago

Excelia multiplica su facturación y plantilla por dos en tres años

La compañía anuncia cambios de liderazgo, como los nombramientos de José Ruiz López y Mireya…

17 horas ago