Estoy leyendo el siguiente blog sobre la red neuronal LSTM: http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/ El autor da nueva forma al vector de entrada X como [muestras, pasos de tiempo, características] para diferentes configuraciones de...
Tengo un par de preguntas que me confunden con respecto a la CNN. 1) ¿Las características extraídas usando CNN son invariantes de escala y rotación? 2) ¿Los núcleos que utilizamos para convolucionar con nuestros datos ya están definidos en la literatura? ¿Qué tipo de estos núcleos son? ¿Es...
Si tiene media página para explicar el abandono , ¿cómo procedería? ¿Cuál es la razón detrás de esta
Necesito algunos recursos para comenzar a usar redes neuronales para el pronóstico de series temporales. Soy cauteloso de implementar algún documento y luego descubrir que han exagerado mucho el potencial de sus métodos. Entonces, si tiene experiencia con los métodos que sugiere, será aún más...
He encontrado algunas formas básicas para medir la complejidad de las redes neuronales: Ingenuo e informal: cuente la cantidad de neuronas, neuronas ocultas, capas o capas ocultas Dimensión VC (Eduardo D. Sontag [1998] "Dimensión VC de redes neuronales" [ pdf ].) Un curso medido de complejidad...
Estoy tratando de entender la función de pérdida Yolo v2: λc o o r d∑i = 0S2∑j = 0si1o b jyo j[ ( xyo- x^yo)2+ ( yyo- y^yo)2]+ λc o o r d∑i = 0S2∑j = 0si1o b jyo j[ ( wyo--√- w^yo--√)2+ ( hyo--√- h^yo--√)2]+ ∑i = 0S2∑j = 0si1o b jyo j( Cyo- C^yo)2+ λn o o b j∑i = 0S2∑j = 0si1n o o b jyo j( Cyo-...
Esta es una cuestión de terminología. A veces veo que las personas se refieren a las redes neuronales profundas como "perceptrones de varias capas", ¿por qué es esto? Un perceptrón, me enseñaron, es un clasificador (o regresor) de una sola capa con una salida de umbral binario que usa una forma...
Estoy tratando de entender el contexto del famoso libro de Minsky y Papert "Perceptrons" de 1969, tan crítico para las redes neuronales. Hasta donde sé, todavía no había otros algoritmos genéricos de aprendizaje supervisado, excepto el perceptrón: los árboles de decisión comenzaron a ser...
Estoy estudiando redes neuronales convolucionales (CNN) debido a sus aplicaciones en visión por computadora. Ya estoy familiarizado con las redes neuronales estándar de alimentación hacia adelante, por lo que espero que algunas personas aquí puedan ayudarme a dar un paso adicional para comprender...
Al aprender la red neuronal convolucional, tengo preguntas sobre la siguiente figura. 1) C1 en la capa 1 tiene 6 mapas de características, ¿eso significa que hay seis núcleos convolucionales? Cada núcleo convolucional se utiliza para generar un mapa de características basado en la entrada. 2) S1...
En la literatura sobre redes neuronales, a menudo encontramos la palabra "tensor". ¿Es diferente de un vector? ¿Y de una matriz? ¿Tienes algún ejemplo específico que aclare su definición? Estoy un poco confundido acerca de su definición. Wikipedia no ayuda y a veces tengo la impresión de que su...
Pido disculpas de antemano por el hecho de que todavía estoy avanzando en esto. Estoy tratando de entender los pros y los contras de usar tanh (mapa -1 a 1) versus sigmoide (mapa 0 a 1) para mi función de activación neuronal. De mi lectura sonaba como algo menor con diferencias marginales. En la...
Estoy entrenando una red neuronal usando i) SGD y ii) Adam Optimizer. Cuando uso SGD normal, obtengo una curva de pérdida de entrenamiento suave versus iteración como se ve a continuación (la roja). Sin embargo, cuando utilicé el Adam Optimizer, la curva de pérdida de entrenamiento tiene algunos...
Estaba leyendo sobre el optimizador Adam para Deep Learning y encontré la siguiente oración en el nuevo libro Deep Learning de Begnio, Goodfellow y Courtville: Adam incluye correcciones de sesgo a las estimaciones de los momentos de primer orden (el término de momento) y los momentos de segundo...
En el entrenamiento de mini lotes de una red neuronal, escuché que una práctica importante es mezclar los datos de entrenamiento antes de cada época. ¿Alguien puede explicar por qué ayuda el arrastrar los pies en cada época? En la búsqueda de google, encontré las siguientes respuestas: ayuda a...
Estoy experimentando con el algoritmo de la máquina de aumento de gradiente a través del caretpaquete en R. Usando un pequeño conjunto de datos de admisión a la universidad, ejecuté el siguiente código: library(caret) ### Load admissions dataset. ### mydata <-
No he encontrado una respuesta satisfactoria a esto de google . Por supuesto, si los datos que tengo son del orden de millones, entonces el aprendizaje profundo es el camino. Y he leído que cuando no tengo grandes datos, tal vez sea mejor usar otros métodos en el aprendizaje automático. La razón...
Los lugares que he estado leyendo sobre la maldición de la dimensionalidad lo explican conjuntamente con kNN principalmente, y los modelos lineales en general. Regularmente veo a los mejores clasificados en Kaggle usando miles de características en el conjunto de datos que apenas tiene 100k puntos...
¿Cuál es la derivada de la función de activación ReLU definida como: ReLU(x)=max(0,x)ReLU(x)=max(0,x) \mathrm{ReLU}(x) = \mathrm{max}(0, x) ¿Qué pasa con el caso especial donde hay una discontinuidad en la función en
¿En qué punto comenzamos a clasificar las redes neuronales de varias capas como redes neuronales profundas o para decirlo de otra manera? ¿Cuál es el número mínimo de capas en una red neuronal