Categories: CloudInnovación

Un servicio de IBM permitirá detectar automáticamente sesgos de la IA

La inteligencia artificial (IA) está empezando a resolver problemas, pero las soluciones que se basan en esta tecnología todavía no están pulidas del todo.

En este sentido, para aumentar la transparencia alrededor de la IA o, como ella misma explica, para fomentar “la apertura de la ‘caja negra’ de la inteligencia artificial”, IBM ha decidido lanzar nuevas soluciones que incrementan la visibilidad de las empresas respecto a su aplicación y las acciones que permite tomar.

En primer lugar, ha anunciado un servicio de software disponible en IBM Cloud que es capaz de detectar sesgos de manera automática y en tiempo de ejecución en los modelos de IA y que aporta explicaciones sobre las decisiones a las que se llega, mostrando los factores que las determinan, la confianza en la recomendación y también los factores de dicha confianza.

“Es decir”, explica el Gigante Azul, “captura resultados potencialmente injustos a medida que se producen”.

“Estamos facilitando a las empresas que utilizan la IA una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea”, cuenta David Kenny, vicepresidente sénior de Soluciones Cognitivas de IBM.

El servicio es capaz asimismo de aconsejar datos que se pueden añadir al modelo para reducir los sesgos detectados.

Esto funciona con modelos construidos con Watson, Tensorflow, SparkML, AWS SageMaker y AzureML.

A mayores, IBM ha introducido el kit de herramientas AI Fairness 360 para la comunidad open source, que combina algoritmos, códigos y tutoriales y se encuentra asimismo orientado a reducir los sesgos de la IA. Esto es, para integrar mecanismos de identificación en la propia construcción y aplicación de modelos de aprendizaje automático.

Mónica Tilves

Licenciada en Xornalismo por la Universidad de Santiago de Compostela en la especialidad de Periodismo Electrónico y Multimedia. Apasionada de los gadgets, la fotografía digital, el diseño web y el arte. Tras un primer contacto con el mundo de la prensa escrita y con la suficiencia investigadora debajo del brazo, me decanto por los medios online. Cubro la actualidad informativa en Silicon Week desde 2011, además de colaborar en otras publicaciones del grupo NetMediaEurope en España como Silicon News. Ahora en Silicon.es.

Recent Posts

Twitter deberá entregar a Elon Musk información relacionada con sus cuentas de usuario

Se trata de los documentos de su exdirector general de productos de consumo, Kayvon Beykpour.

48 mins ago

Android 13 ya está aquí

El nuevo sistema operativo móvil de Google está disponible para dispositivos Pixel.

2 horas ago

La colaboración, un mercado potencial de 63.800 millones de dólares

La evolución de las aplicaciones de colaboración gracias a las nuevas tecnologías está facilitando el…

2 horas ago

Los problemas de suministro siguen afectando al mercado de impresión europeo

Durante el segundo trimestre los envíos se redujeron un 2,6 % hasta los 4,28 millones…

3 horas ago

Repunte del Bitcoin, que aumenta un 30 % su cotización

El Bitcoin recupera un 30 % de su valor en un inesperado repunte de su…

17 horas ago

Estas son las tres amenazas más relevantes para la ciberseguridad en la segunda mitad de 2022

Ransomware, exploits de día cero y cambios en los vectores de ataque serán las amenazas…

17 horas ago