IBM presentó una nueva herramienta de software que analiza cómo funcionan los sistemas de inteligencia artificial (IA) para entender sus mecanismos de procesamiento. El objetivo es comprender cómo toman las decisiones y agregar un grado de transparencia a los movimientos de las compañías que utilizan IA.

Este sistema funciona sobre la nube de IBM y recopila datos de diferentes frameworks de machine learning. Esto incluye su propia tecnología, Watson, así como también Tensorflow, SparkML, AWS SageMaker y AzureML.

Según explicó la compañía en una entrevista con TechCrunch, el servicio puede funcionar de forma personalizada dependiendo las necesidades de cada organización: “la programación depende de los factores únicos de cada workflow”. A su vez, esto permite detectar “resultados potencialmente injustos o desleales” y sugerir nuevos datos.

Entre algunas de sus funciones, desglosa las decisiones de la IA y muestra qué factores pesaron más a la hora de tomar una decisión, hacer una recomendación, además de tener un completo archivo sobre todos los movimientos, con acceso rápido y sencillo.

La plataforma de IBM plantea un nuevo paradigma de transparencia en la industria, que hace tiempo confía en la IA como su mejor aliado. Por eso, la compañía estima que su soft reducirá el trabajo de aquellos que se encargan de pulir los errores de la IA gracias a los procesos automatizados.

Para comprender el salto a la automatización, la firma presentó un estudio donde se revela que el 82% de las compañías consideran utilizar herramientas de IA, pero que el 60% teme encontrar problemas de transparencia futuros, mientras que el 63% asegura no tener mano de obra capacitada para manejar la tecnología correctamente.

“IBM lidera la industria para establecer sistemas de confianza y transparencia para desarrollar nuevas tecnologías de inteligencia artificial. Es hora de poner estos principios en práctica”, aseguró el SVP de soluciones cognitivas de IBM, David Kenny, y agregó que esta plataforma brinda una “solución de control para desestimar riesgos potenciales”.