CyberArk lanza una solución para detectar vulnerabilidades en modelos de IA

CyberArk presenta una herramienta para abordar vulnerabilidades en modelos de inteligencia artificial (IA o AI por sus siglas en inglés), tanto internos como alojados en la nube.

Se llama Fuzzy AI, es una solución de código abierto y permite probar los modelos frente a diferentes técnicas de ataque para detectar puntos débiles.

Esto le permite exponer problemáticas como elusiones de barreras de protección, inyección o fuga de información y generación de resultados dañinos. Las empresas tienen la posibilidad de adaptar las pruebas añadiendo sus propios métodos de ataque.

“El lanzamiento de FuzzyAI subraya el compromiso de CyberArk con la seguridad de la IA y ayuda a las organizaciones a dar un importante paso adelante en la resolución de los problemas de seguridad inherentes al cambiante panorama del uso de modelos de inteligencia artificial“, apunta el director de Producto de CyberArk, Peretz Regev.

“Desarrollado por CyberArk Labs, FuzzyAI ha demostrado la capacidad de hacer jailbreak a todos los modelos de IA probados”, apunta.

“Asimismo”, prosigue, “permite a las organizaciones identificar debilidades y fortalecer sus sistemas de IA contra las amenazas emergentes”.

Redacción Silicon

La redacción de Silicon está compuesta por profesionales del periodismo 2.0

Recent Posts

España tiene 125,6 líneas de telefonía móvil por cada 100 habitantes

Mientras, la proporción de líneas de banda ancha fija es de 38,7 por cada 100…

9 mins ago

Un 84 % de los responsables de TI españoles planea incrementar el presupuesto de tecnología asignado a la red

En nuestro país, 7 de cada 10 compañías han sufrido cortes importantes por congestión, ciberataques…

43 mins ago

Logicalis Spain reafirma su compromiso con la sostenibilidad

El proveedor de servicios de TI y soluciones digitales ha conseguido reducir  su gasto energético…

1 hora ago

Colt, Nokia y Honeywell tantean el riesgo cuántico con satélites en órbita terrestre baja

Llevarán a cabo una prueba sobre distribución cuántica de claves con el objetivo de proteger…

2 horas ago

Mike Berry, de CFO de NetApp a CFO de MongoDB

Antes también fue el director financiero de otras compañías como McAfee, FireEye, Informatica, IO, Solarwinds…

2 horas ago

Los ingresos trimestrales de MongoDB aumentan un 22 %

La gran mayoría de los ingresos de la compañía corresponden al apartado de suscripciones.

3 horas ago