Toma de decisiones rastreable

En los últimos años, hemos presenciado un aumento en la popularidad de una técnica particular de aprendizaje automático, conocida como redes neuronales artificiales. Esta técnica se concibió por primera vez en los años 1940 y se desarrolló durante la segunda mitad del siglo XX. En la última década, debido al aumento en  el poder computacional y la disponibilidad de datos, las redes neuronales comenzaron a mostrar resultados prometedores en muchas áreas diferentes, como visión artificial, procesamiento de lenguaje natural e inteligencia artificial. Recientemente, términos como Aprendizaje profundo se han vuelto comunes, lo cual lleva a muchos profesionales a preguntarse: ¿Pueden estas nuevas tecnologías ayudarme a mí y a mi empresa a tomar mejores decisiones? Para responder esto, primero debemos comprender qué es una red neuronal y de qué manera puede resolver problemas.

 

Las redes neuronales son sistemas inspirados biológicamente, los cuales, al ser capacitados con técnicas de aprendizaje automático y una buena cantidad de datos, (posiblemente) pueden aprender a predecir resultados en función de la información. Una de las principales ventajas es su generalidad, es decir, el mismo algoritmo de capacitación general puede trabajar en una amplia variedad de problemas. Por otro lado, las redes neuronales son lo que denominamos sistemas de "caja negra", lo cual significa que sus estados internos no aportan información acerca de por qué o cómo generan sus resultados. En la práctica, esta es la causa de dos de los mayores problemas en aplicaciones reales de sistemas de caja negra:

 

1. Usted solo obtiene los resultados

 

El nombre "caja negra" proviene del hecho de que usted no puede "ver'' lo que está realizando. Lo único que puede hacer es ingresar información en el sistema y obtener los resultados, sin cuestionarlos. El problema es que, en muchas situaciones prácticas, el Por qué es tan importante como el Qué.

 

Por ejemplo, consideremos una empresa hipotética que produce una cierta cantidad de productos diferentes que consumen recursos comunes. Esta empresa desea saber cuál es, entre sus productos, la proporción ideal que maximizará su ganancia y, para ello, emplea un sistema de caja negra. Lo único que puede hacer este sistema es proponer, con base en la información, una proporción de productos que la empresa deberá aceptar a ciegas. En contraste, los sistemas transparentes, como los modelos de simulación y optimización pueden ofrecer al usuario información adicional, como ser:

 

• Cuellos de botella en la producción.
• Indicación de proveedores que la empresa es fuertemente dependiente.
• Pistas acerca del tipo de cambios durante el proceso que pueden resultar en una diferente proporción ideal de productos.

 

Claro que esta información adicional dependerá de cómo desarrolle el modelo. ¡Pero esa es la cuestión clave! Los modelos transparentes usan conocimiento científico e hipótesis de especialistas que se pueden analizar y probar. En algunos casos, estas confrontaciones son fundamentales para una toma de decisiones efectiva.

 

 

2. El sistema puede presentar sesgo

 

Debido a que estos sistemas no se pueden verificar, sesgos ocultos pueden generar decisiones injustas o incorrectas. Por ejemplo, más de 2000 investigadores de Google, MIT, Microsoft y Yale se han comunicado con publicaciones académicas para suspender la publicación de estudios sobre sistemas de "reconocimiento delictivo" en función de rasgos faciales. Los investigadores afirman que este tipo de sistema puede perpetuar sesgos raciales presentes en los datos. En general, es difícil determinar si un modelo de caja negra de alta precisión, con capacitación en datos históricos pasados, funcionará bien en nuevos contextos o solo perpetuará tendencias del pasado.

 

Pero, a fin de cuentas, ¿debo usar este tipo de modelo o no? Bueno, como siempre, la respuesta es: ¡Depende! Si su problema está bien definido, le conviene usar soluciones transparentes, como modelos matemáticos, que le permitan comprender su contexto y probar su hipótesis. Por otro lado, si está lidiando con un problema no estructurado sin reglas conocidas (como el problema de cómo los seres humanos ven o entienden el lenguaje), en ese caso, la mejor opción probablemente sea una red neuronal profunda. Claro que siempre puede contar con soluciones de "caja gris'' que incorporen subsistemas de los modelos de caja negra y transparente para tratar de usar lo mejor de cada tecnología. De cualquier manera, la mejor opción para mantenerse competitivo es elegir la solución que mejor se adecue a su contexto, en lugar de buscar ciegamente la última tendencia.

 

Autor: Vinícius Mello - Consultor en Cassotis Consulting

  Coautor: Fabio Silva - Gerente Senior en Cassotis Consulting