En Alex Krizhevsky, et al. La clasificación de Imagenet con redes neuronales convolucionales profundas enumera el número de neuronas en cada capa (ver el diagrama a continuación). La entrada de la red es de 150,528 dimensiones, y el número de neuronas en las capas restantes de la red viene dado...
Estoy tratando de entender mejor las redes neuronales convolucionales escribiendo mejor el código de Python que no depende de las bibliotecas (como Convnet o TensorFlow), y me estoy atascando en la literatura sobre cómo elegir valores para la matriz del núcleo, cuando realizando una convolución en...
Recientemente estaba corriendo y aprendiendo el flujo del tensor y obtuve algunos histogramas que no sabía cómo interpretar. Por lo general, pienso en la altura de las barras como la frecuencia (o frecuencia / recuento relativo). Sin embargo, el hecho de que no haya barras como en un histograma...
¿Hay algún buen documento que cubra algunas formas metódicas de elegir las dimensiones de los filtros, agrupar las unidades y determinar el número de capas
Estaba jugando con una red neuronal simple con una sola capa oculta, por Tensorflow, y luego probé diferentes activaciones para la capa oculta: Relu Sigmoideo Softmax (bueno, generalmente softmax se usa en la última capa ..) Relu ofrece la mejor precisión de tren y precisión de validación. No...
He estado trabajando con las redes neuronales convolucionales (CNN) durante algún tiempo, principalmente en datos de imágenes para la segmentación semántica / segmentación de instancias. A menudo he visualizado el softmax de la salida de la red como un "mapa de calor" para ver qué tan altas son las...
Tengo curiosidad acerca de cómo los gradientes se propagan hacia atrás a través de una red neuronal utilizando módulos ResNet / conexiones de omisión. He visto un par de preguntas sobre ResNet (por ejemplo, red neuronal con conexiones de capa de salto ), pero esta pregunta específicamente sobre la...
Me gustaría saber si existe un código para entrenar una red neuronal convolucional para hacer una clasificación de series de tiempo. He visto algunos documentos recientes ( http://www.fer.unizg.hr/_download/repository/KDI-Djalto.pdf ) pero no estoy seguro de si existe algo o si lo he codificado yo...
Definimos una arquitectura de cuello de botella como el tipo que se encuentra en el documento de ResNet donde [dos capas de conv 3x3] se reemplazan por [una 1x1 conv, una 3x3 conv, y otra 1x1 conv capa]. Entiendo que las capas conv 1x1 se usan como una forma de reducción de dimensión (y...
Estaba leyendo el documento de normalización de lotes (BN) (1) y no entendía la necesidad de usar promedios móviles para rastrear la precisión del modelo e incluso si aceptaba que era lo correcto, no entiendo qué están haciendo exactamente. Según tengo entendido (que puede estar equivocado), el...
En aplicación de la Tensorflow ResNet , encuentro que utilizan la variación de escala inicializador, también encuentro Xavier inicializador es popular. No tengo mucha experiencia en esto, ¿qué es mejor en la
Estoy trabajando en la clasificación de la etapa del sueño. Leí algunos artículos de investigación sobre este tema, muchos de ellos usaron SVM o método de conjunto. ¿Es una buena idea usar una red neuronal convolucional para clasificar la señal EEG unidimensional? Soy nuevo en este tipo de...
¿Hay alguna diferencia entre 'transferencia de aprendizaje' y 'adaptación de dominio'? No sé sobre el contexto, pero entiendo que tenemos un conjunto de datos 1 y lo entrenamos, después de lo cual tenemos otro conjunto de datos 2 para el que queremos adaptar nuestro modelo sin volver a entrenar...
Estaba revisando los documentos de convolución de Keras y he encontrado dos tipos de convulsiones Conv1D y Conv2D. Hice una búsqueda en la web y esto es lo que entiendo sobre Conv1D y Conv2D; Conv1D se usa para secuencias y Conv2D usa para imágenes. Siempre pensé que las redes de convolución...
La arquitectura AlexNet utiliza rellenos cero como se muestra en la imagen: Sin embargo, no hay explicación en el documento por qué se introduce este relleno. El curso Standford CS 231n enseña que usamos relleno para preservar el tamaño espacial: Me pregunto si es la única razón por la que...
Entiendo las capas convolucionales y de agrupación, pero no puedo ver la razón de una capa totalmente conectada en las CNN. ¿Por qué la capa anterior no está directamente conectada a la capa de
He visto tramas de error de prueba / entrenamiento que caen repentinamente en ciertas épocas varias veces durante el entrenamiento de la red neuronal, y me pregunto qué causa estos saltos de rendimiento: Esta imagen está tomada de Kaiming He Github, pero en muchos periódicos aparecen tramas...
Las redes neuronales convolucionales más comunes contienen capas de agrupación para reducir las dimensiones de las características de salida. ¿Por qué no podría lograr lo mismo simplemente aumentando el paso de la capa convolucional? ¿Qué hace necesaria la capa de
Tengo un par de preguntas que me confunden con respecto a la CNN. 1) ¿Las características extraídas usando CNN son invariantes de escala y rotación? 2) ¿Los núcleos que utilizamos para convolucionar con nuestros datos ya están definidos en la literatura? ¿Qué tipo de estos núcleos son? ¿Es...
¿Qué transmite el número de filtros en una capa de convolución? ¿Cómo afecta este número el rendimiento o la calidad de la arquitectura? Quiero decir, ¿deberíamos optar siempre por un mayor número de filtros? ¿Qué hay de bueno de ellos? y ¿Cómo asigna la gente un número diferente de filtros para...