A partir de 2026, la nueva regulación europea, la Ley de IA o IA Act (Artificial Intelligence Act) marcará un antes y un después en la forma en que las organizaciones desarrollan, implementan y gobiernan sistemas de Inteligencia Artificial.
El incumplimiento de esta norma puede acarrear sanciones de hasta el 7% de la facturación global anual, lo que la convierte en una prioridad crítica para el tejido empresarial. Y precisamente uno de los pilares esenciales para el cumplimiento de esta ley es la observabilidad de la Inteligencia Artificial, ya que permite a las organizaciones entender, auditar y controlar el comportamiento de sus sistemas de IA, tanto en tiempo real como a lo largo de su ciclo de vida.
Algo que no solo mejora la gobernanza y la fiabilidad sino que se convierte en una pieza crítica para la trazabilidad, explicabilidad y gestión de riesgos, exigencias directas de la IA Act.
Observar para cumplir
Para analizar cómo hacer esa observabilidad efectiva, Silicon organizaba un evento junto a Keepler Data Tech al que acudían Gabino López, gerente de Innovación en Prosegur; Javier Marín Bermejo, Digital Transformation & Data Analytics de Naturgy; Nacho Beites, CIAO de Openbank; David Redondo, responsable de Innovación, Arquitecto de IA y Gobierno del Dato en Valoriza; Israel Devesa, director general digital de Grupo Aldesa; y Christian Ruiz, director de TI y Transformación de Lexer.
Conducido por Daniel de Blas, director de Branded Content de Netmedia, el evento lo arrancaba Juanma Aramburu, CEO de Keepler Data Tech que explicaba cómo distintas normas, además de la AI Act, como son DORA, NIS o todas las relativas a la ciberseguridad, están haciendo que “la observabilidad y la gobernanza sean cada vez más importantes”.
Así, además, compartía con el resto de asistentes el enfoque AI TRiSM, de Gartner, que señala que cualquier proyecto de Inteligencia Artificial, “para tener éxito tiene que contemplar la gestión de la confianza, el riesgo y la seguridad (Trust, Risk, Security Management, TRiSM). En él hay aspectos básicos como el ciclo de vida técnico de la herramienta, la seguridad de los datos, la privacidad y, cómo no, la explicabilidad y la monitorización”, explicaba Aramburu.
Y es que, pasada la fase en la que las compañías han entendido que “sin escalabilidad y sin calidad del dato no podían abordar un proyecto de IA, estamos ahora en el punto de establecer la observabilidad y la gobernanza de dichos proyectos”, añadía Pablo Ríos, BDM de Keepler Data Tech.
Pero ¿cómo se está abordando esta gobernanza? ¿Están las empresas preparadas para cumplir con la IA Act y otras regulaciones?
Casos de uso reales
En el caso de Valoriza, contaba David Redondo, responsable de Innovación, Arquitecto de IA y Gobierno del Dato en la compañía, el enfoque de la IA actualmente es 100 por cien práctico, “priorizando casos de uso como el análisis predictivo de las rutas de recogida de residuos o, a través de sistemas de imagen en los recolectores, poder optimar la recogida”.
La observabilidad de la IA en Valoriza recae en distintos equipos “negocio, innovación, TI, legal…”, explicaba.
Por su parte, en Lexer, los casos de uso de la IA actuales van desde la gestión de documentos “al análisis predictivo de riesgo en el pago, según en comportamiento del cliente, a ayudar al propio gestor en su labor”, apuntaba Christian Ruiz, director de TI y Transformación en la empresa. En cuanto a la gobernanza de la IA, “estamos montando un área dedicada exclusivamente a ello”, añadía.
“Hemos pasado de jugar con la IA de forma algo descontrolada a comenzar a gobernarla”, afirmaba en ese sentido Javier Marín Bermejo, Digital Transformation & Data Analytics de Naturgy.
Con aplicaciones reales de esta tecnología como el análisis de competencia en el mercado o la detección de puntos de conexión libres y la generación de la memoria técnica que se necesita presentar para solicitarlos, en Naturgy la gobernanza pasa por un comité, la FactorIA, “donde analizan cualquier proyecto de IA que queramos desarrollar, los riesgos que presenta, quién es el data owner, etc.”
En Openbank, según compartía su CIAO, Nacho Beites, “todo lo relativo al dato y a la IA depende del CEO”. Con casos de uso muy centrados en mejorar la experiencia del cliente, para Beites “el nivel de madurez tiene que mejorar ya que cuando hablamos de IA no solo hablamos de tecnología, estamos abordando un cambio de mindset, de forma de pensar”.
De hecho, en su opinión, con la IA “vamos a pasar de trabajar organizados en silos a hacerlo por flujos de trabajo” y el verdadero reto es “la explicabilidad porque a nivel de rentabilidad por ejemplo es igual que cualquier proyecto de otra tecnología”.
Una regulación compleja
Analizar las distintas licitaciones para saber a qué obras deben y pueden presentarse es uno de los casos de uso en el que están trabajando gracias a la IA en Grupo Aldesa, según Israel Devesa, director general digital del grupo. Devesa señalaba la gestión del cambio también como uno de los grandes desafíos a los que se enfrentan las compañías junto a la propia regulación, de la que señalaba que “es poco clara, está abierta a la interpretación y eso genera demasiadas dudas a día de hoy”.
Un aspecto en el que coincidía Juanma Aramburu, desde Keepler: “La regulación y la interpretación de la misma es un working progress claro. Implantar estas normas es complejo y lleva asociado un coste; por eso, yo aconsejo empezar por unos mínimos”.
Esa falta de claridad en la legislación era puesta de manifiesto también por Gabino López, gerente de Innovación en Prosegur. “Nosotros, por ejemplo, queremos aplicar técnicas de reconocimiento facial aunque no almacenamos ni hacemos nada con la información no podemos por la ley. No es lógica”.
Con un Comité de IA responsable creado, la empresa considera vital formar en Inteligencia Artificial y por ello cuenta también con la Universidad Prosegur para “acompañar a nuestros profesionales en su uso responsable”. “La IA es una herramienta y como tal hay que aprender a utilizarla”, afirmaba Gabino López.
De la misma opinión se mostraba David Redondo, de Valoriza, que señalaba cómo “estamos ante un cambio cultural en el que es esencial formar pero también concienciar”.
“Ya ha cambiado la forma en la que trabajamos radicalmente y hoy el reto es pensar en las personas que ya no van a hacer falta, haciendo lo que hacían hasta ahora, cómo resituarlas laboralmente”, reflexionaba Javier Marín Bermejo, de Naturgy.
Un futuro en el que Israel Devesa, de Grupo Aldesa también apuntaba cómo el talento se va a transformar por completo. “Es necesario repensar qué perfiles necesitamos. ¿Necesitaremos en los próximos años perfiles que sepan de IA o por el contrario lo importante será que sepan interactuar con ella únicamente?
La respuesta no la tiene más que el tiempo así que, como animaban desde Keepler, “hagamos y aprendamos haciendo”.
Anuncia el conjunto de servicios Amazon Bedrock AgentCore, una nueva categoría en AWS Marketplace y…
Entre los agentes integrados en esta plataforma se encuentran AI Developer, Quality Assurance, un Ingeniero…
Diferentes métodos como los datos móviles, las redes WiFi y las tarjetas SIM locales soportan…
El total de muestras de malware detectadas durante el primer trimestre del año asciende a…
La operadora pretendía subir el precio mensual de la línea fija telefónica 1P, que actualmente…
Se trata de ICT, ISS AV, parte de Smartcomm y la española AVANZIA, que le…