¿Qué es una red neuronal profunda?

¿Cuál es la definición de una red neuronal profunda? ¿Por qué son tan populares o importantes?

Una red neuronal profunda (DNN) no es más que una red neuronal que tiene múltiples capas, donde múltiples pueden ser subjetivas.

En mi humilde opinión, cualquier red que tiene 6 o 7 o más capas se considera profunda. Entonces, lo anterior formaría una definición muy básica de una red profunda.

Las redes profundas tienen dos diferencias principales con las redes 'normales'.

El primero es que el poder de cómputo y los conjuntos de datos de entrenamiento han crecido enormemente, lo que significa que es práctico ejecutar redes más grandes y estadísticamente válidas (es decir, tenemos suficientes ejemplos de entrenamiento que no solo nos encontraremos con problemas de ajuste excesivo con redes más grandes).

El segundo es que la propagación hacia atrás está limitada cuanto más capas tenga; cada capa representa un gradiente del error, por lo que para el momento en que uno tiene aproximadamente seis capas de profundidad no queda mucho error para modificar los pesos de las neuronas. Pero cabe esperar razonablemente que las neuronas anteriores sean más importantes que las neuronas posteriores, ya que representan "conceptos" que están más cerca de las entradas en bruto.

Las nuevas técnicas de capacitación evitan este problema, por lo general mediante el aprendizaje no supervisado sobre las entradas en bruto, creando 'conceptos' de nivel superior que luego son útiles como entradas para el aprendizaje supervisado.

(Por ejemplo, considere el problema de determinar si una imagen contiene o no un gato de los píxeles. Las primeras capas de la red deberían hacer cosas como detectar bordes, que se podría esperar que se compartan entre todas las imágenes y, en su mayoría, independientemente de qué uno está tratando de hacer con las capas de salida, por lo que también es difícil entrenar a través de señales de 'gato-no gato' muchas capas hacia arriba.

Estructura general de una red neuronal artificial

Capa de entrada + Capas ocultas + Capa de salida

Si hay más capas ocultas en la red neuronal artificial, entonces la red neuronal se llama red neuronal profunda. Cuántos constituyen exactamente una red neuronal profunda es un punto de debate, pero en general, cuanto más capas ocultas, más profunda es la red neuronal.

En cuanto a por qué son tan populares o importantes, muchos problemas como la detección de objetos, la clasificación, el reconocimiento facial y el reconocimiento de voz se resolvieron con el advenimiento de las redes neuronales profundas. No es una exageración decir que el rendimiento de las redes neuronales profundas cruzó incluso el rendimiento humano en muchas de las tareas mencionadas anteriormente. Eso significa que ahora una computadora es la mejor para hacer las tareas anteriores que los humanos. Todos los problemas mencionados anteriormente se encuentran en el campo de la investigación desde hace casi 5 décadas. Todos ellos se han resuelto a la perfección solo en los últimos 4,5 años solo por el éxito de las redes neuronales profundas. Por eso son muy populares e importantes. Mencioné muy pocos problemas en los que trabajé, hay muchas tareas similares que las redes neuronales profundas resolvieron con facilidad en la última década.

Y, en este momento, muchas personas en todo el mundo están trabajando para resolver innumerables aplicaciones utilizando redes neuronales profundas.