Si procesamos digamos 10 ejemplos en un lote, entiendo que podemos sumar la pérdida para cada ejemplo, pero ¿cómo funciona la propagación hacia atrás en relación con la actualización de los pesos para cada ejemplo? Por ejemplo: Ejemplo 1 -> pérdida = 2 Ejemplo 2 -> pérdida = -2 Esto da...
Un extraño al campo ML / DL; comenzó el curso Udacity Deep Learning que se basa en Tensorflow; haciendo la tarea 3 problema 4; tratando de ajustar la velocidad de aprendizaje con la siguiente configuración: Tamaño de lote 128 Número de pasos: suficiente para llenar 2 épocas Tamaños de capas...
Estoy siguiendo el tutorial de Tensorflow mnist ( https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/tutorials/mnist/mnist_softmax.py ). El tutorial utiliza tf.train.Optimizer.minimize(específicamente tf.train.GradientDescentOptimizer). No veo ningún argumento que se pase a...
En el reciente artículo de WaveNet , los autores se refieren a su modelo como capas apiladas de convoluciones dilatadas. También producen los siguientes cuadros, que explican la diferencia entre convoluciones "regulares" y convoluciones dilatadas. Las convoluciones regulares se ven así. Esta es...
Las características aleatorias de Fourier proporcionan aproximaciones a las funciones del núcleo. Se utilizan para varios métodos de kernel, como SVM y procesos gaussianos. Hoy, intenté usar la implementación de TensorFlow y obtuve valores negativos para la mitad de mis funciones. Según tengo...
Estoy tratando de entrenar una red neuronal profunda para la clasificación, utilizando la propagación inversa. Específicamente, estoy usando una red neuronal convolucional para la clasificación de imágenes, usando la biblioteca Tensor Flow. Durante el entrenamiento, estoy experimentando un...
Mientras leía los documentos de segmentación semántica, así como sus implementaciones correspondientes, descubrí que algunos enfoques usan softmax, mientras que otros usan sigmoide para el etiquetado a nivel de píxeles. Por ejemplo, con respecto al papel u-net , la salida es un mapa de...
Ejemplos: Tengo una oración en la descripción del trabajo: "Ingeniero senior de Java en el Reino Unido". Quiero usar un modelo de aprendizaje profundo para predecirlo en 2 categorías: English y IT jobs. Si uso el modelo de clasificación tradicional, solo puede predecir 1 etiqueta con...
No estoy seguro de lo que entiendo de la documentación oficial, que dice: Devuelve: Un par (salidas, estado) donde: outputs: El tensor de salida RNN. Si time_major == False(por defecto), esta será la forma de un tensor: [batch_size, max_time, cell.output_size]. Si time_major == True,...
https://www.tensorflow.org/ Todos los proyectos en TensorFlow que he visto en GitHub implementan algún tipo de modelo de red neuronal. Dado que TensorFlow es una mejora con respecto al DAG (ya no es acíclico), me preguntaba si alguna deficiencia inherente lo hace inadecuado para el modelo general...