RED NEURONAL PROFUNDA, DEEP LEARNING ¿Qué no hace bien?

         LIMITACIONES DEL APRENDIZAJE PROFUNDO, DEEP LEARNING


La Inteligencia Artificial  ha de aprender por sí misma. No es viable programarla.

Machine learning es el conjunto de algoritmos que le permiten al sistema aprender por sí mismo.

Hay dos métodos, en orden creciente de capacidad del sistema de aprender por sí mismo:

- Aprendizaje dirigido: el sistema de IA recibe una serie de datos que son ejemplos (como el caso de  una serie de fotos, unas con caras, otras sin caras). El algoritmo de aprendizaje automático lo procesa y extrae un modelo. Ese modelo lo utilizará el sistema para tratar todos los nuevos casos que se le planteen, haciendo predicciones probabilísticas, y ofreciendo una solución.

- Aprendizaje no dirigido, Deep Learning: no se introducen ejemplos, el algoritmo debe sacar patrones o anomalías para crear un modelo.
Es la red neuronal profunda. Imita la red neuronal del cerebro. Cada capa es experta en una característica.
Es el aprendizaje profundo. Redes neuronales de gran tamaño y con gran números de capas. no requiere un aprendizaje totalmente dirigido. Permite tratar casi cualquier tipo de problemas de forma muy eficiente, desde la conducción autónoma a la medicina personalizada. Está detrás del desarrollo de nuevos audífonos que analizan el ruido ambiente, optimizando así la audición.

Este aprendizaje profundo está viviendo un gran desarrollo desde 2012, cuando se acuñó el término Deep Learning para denominarlo.
Es un desarrollo de los algoritmos de retroprogramación, que ya en los 80 empezaron a utilizarse para entrenar una red neuronal de pocas capas  actualizando pesos y umbrales de forma ordenada, primero los pesos de la penúltima capa y los umbrales de la última, luego los pesos de la antepenúltima capa y los umbrales de la penúltima...
Ocupaban gran tamaño y exigían mucho tiempo.

Cuando ya las máquinas han ampliado tantísimo su capacidad, han permitido el desarrollo de la tecnología de la red neuronal profunda, con muchísimas más capas y datos. En 2012 consiguieron que el sistema clasificara 12 millones de imágenes en 1000 categorías diferentes.

Pero...

- la red no proporciona ninguna justificación de por qué ha obtenido el resultado mostrado, y no otro. Esa opacidad del proceso hace que, por exigencias legales, el Banco Central Europeo exige complementar con sistemas de Expertos los resultados de las redes neuronales de las computadoras, por ejemplo.
- todos los sistemas actuales de aprendizaje de las máquina adolecen de falta de adaptabilidad. Tras aprender una máquina a competir al GO interaccionando con otra máquina, en 2017 la máquina ganó a un humano a ese juego. Con un tablero de 19 x19, con el que había entrenado. Pero ese juego se puede jugar con tableros de diferente número de casillas. La máquina no sabría qué hacer con tableros de otros tamaños, daría soluciones demasiado simples.



El experto en Psicología Cognitiva Gary Marcus cree que el aprendizaje profundo no es suficiente para alcanzar la Inteligencia Artificial general, que ésta debe apoyarse en otras técnicas.

El aprendizaje profundo genera sistemas que imitan el funcionamiento del cerebro, en que basándose en predicciones probabilísticas, con retroalimentación que le permite recibir el grado de acierto y realizar correcciones, consigue clasificar la información recibida en función de sus rasgos. Es un buen sistema de clasificación de los elementos introducidos en diferentes categorías, ya sean palabras o imágenes.

Pero aprecia que este sistema adolece de 10 problemas o retos que no supera:

• Necesita gran cantidad de datos, y los datos son un bien escaso; si no se dispone de gran cantidad de datos con que alimentarlo, genera resultados no fiables. 
• Carece de mecanismos para aprender términos abstractos, a diferencia del cerebro humano; si le llega un imput del que no tiene un ejemplo previo, genera resultados imprecisos.
• Ha sido entrenado para escenarios específicos, concretos; ante cualquier cambio de escenario genera soluciones superficiales.
• No puede tratar una estructura jerárquica de forma natural, como las frases subordinadas, por ejemplo.
• No es capaz de inferir información no referenciada; no tiene capacidad interpretativa. Si hay alguna referencia implícita no la capta; sólo lo hace con los significados cláramente explícitos.
• Es opaco, no transparente; su funcionamiento concreto queda fuera del conocimiento de sus creadores. No se sabe cómo toma las decisiones.
• No ha sido integrado en cualquier conocimiento previo potencialmente útil. El cerebro humano basa su toma de decisiones no sólo en la información nueva que le llega, sino en todo el conocimiento previo vivido y almacenado en la memoria.
• No distingue claramente entre causa y correlación, analiza los datos de forma plana.
• Se maneja en un mundo estable, con reglas precisas; no, por ejemplo, en el inestable mundo financiero, o en el multivariable sistema social, por ejemplo.
• Funciona bien como una aproximación, en determinadas circunstancias antes señaladas. Pero puede ser fácilmente engañado, por lo que hay que tomar con cautela sus predicciones y soluciones.
• Funciona en determinadas circunstancias, por lo que no es útil para una ingeniería robusta

Por todo ello Marcus considera que la red neuronal profunda es una herramienta estadística, un buen sistema de clasificación.
Pero falla en la capacidad interpretativa de los datos, la cual es función de conocimientos previos. Hay que contar con esta potente herramienta, pero siendo conscientes de sus limitaciones.