Recientemente me encontré con tf.nn.sparse_softmax_cross_entropy_with_logits y no puedo entender cuál es la diferencia en comparación con tf.nn.softmax_cross_entropy_with_logits . ¿Es la única diferencia que los vectores de entrenamiento ytienen que codificarse en un solo uso cuando se usan...
Cerrado. Esta pregunta no cumple con las pautas de Stack Overflow . Actualmente no acepta respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que esté relacionada con el tema de Stack Overflow. Cerrado hace 6 años . Mejora esta...
Intento entender los LSTM y cómo construirlos con Keras. Descubrí que existen principalmente los 4 modos para ejecutar un RNN (los 4 correctos en la imagen) Fuente de la imagen: Andrej Karpathy Ahora me pregunto cómo se vería un fragmento de código minimalista para cada uno de ellos en Keras....
Estoy tratando de comprender el papel de la Flattenfunción en Keras. A continuación se muestra mi código, que es una red simple de dos capas. Toma datos bidimensionales de forma (3, 2) y genera datos unidimensionales de forma (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3,...
¿Cómo inicializar los pesos y los sesgos (por ejemplo, con la inicialización de He o Xavier) en una red en PyTorch?
Cerrado. Esta pregunta no cumple con las pautas de Stack Overflow . Actualmente no acepta respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que esté relacionada con el tema de Stack Overflow. Cerrado hace 6 horas . Mejora esta...
Si tenemos 10 vectores propios, entonces podemos tener 10 nodos neuronales en la capa de entrada. Si tenemos 5 clases de salida, entonces podemos tener 5 nodos en la capa de salida. Pero, ¿cuál es el criterio para elegir el número de capas ocultas en un MLP y cuántos neurales? nodos en 1 capa...
Me preguntaba si era posible guardar un modelo Keras parcialmente entrenado y continuar el entrenamiento después de cargar el modelo nuevamente. La razón de esto es que tendré más datos de entrenamiento en el futuro y no quiero volver a entrenar todo el modelo. Las funciones que estoy usando...
Estoy entrenando una red neuronal para mi proyecto usando Keras. Keras ha proporcionado una función para detenerse temprano. ¿Puedo saber qué parámetros deben observarse para evitar que mi red neuronal se sobreajuste mediante la detención
Tengo un ejemplo de una red neuronal con dos capas. La primera capa toma dos argumentos y tiene una salida. El segundo debe tomar un argumento como resultado de la primera capa y un argumento adicional. Debería verse así: x1 x2 x3 \ / / y1 / \ / y2 Entonces, creé un modelo con dos capas e...
Encontré en muchos códigos de redes neuronales disponibles implementados con TensorFlow que los términos de regularización a menudo se implementan agregando manualmente un término adicional al valor de pérdida. Mis preguntas son: ¿Existe una forma de regularización más elegante o recomendada que...
Estaba tratando de replicar Cómo usar el empaquetado para entradas de secuencia de longitud variable para rnn, pero supongo que primero necesito entender por qué necesitamos "empaquetar" la secuencia. Entiendo por qué tenemos que "rellenarlos", pero ¿por qué es necesario "empacar"...
Estaba revisando este ejemplo de un modelo de lenguaje LSTM en github (enlace) . Lo que hace en general me queda bastante claro. Pero todavía estoy luchando por entender qué contiguous()hace la llamada , lo que ocurre varias veces en el código. Por ejemplo, en la línea 74/75 de la entrada de...
He notado que se NANestá introduciendo una ocurrencia frecuente durante el entrenamiento . A menudo, parece ser introducido por pesos en capas de producto interno / completamente conectadas o de convolución que explotan. ¿Esto ocurre porque el cálculo del gradiente está explotando? ¿O se debe...
Actualmente utilizo el siguiente código: callbacks = [ EarlyStopping(monitor='val_loss', patience=2, verbose=0), ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0), ] model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch,...
Estoy tratando de comprender qué hace el contenedor TimeDistributed en Keras. Entiendo que TimeDistributed "aplica una capa a cada segmento temporal de una entrada". Pero hice un experimento y obtuve resultados que no puedo entender. En resumen, en relación con la capa LSTM, TimeDistributed y...
Estoy tratando de asignar un nuevo valor a una variable tensorflow en Python. import tensorflow as tf import numpy as np x = tf.Variable(0) init = tf.initialize_all_variables() sess = tf.InteractiveSession() sess.run(init) print(x.eval()) x.assign(1) print(x.eval()) Pero el resultado que...
Esta recompensa ha terminado . Las respuestas a esta pregunta son elegibles para una recompensa de reputación de +150 . El período de gracia de recompensa finaliza en 14 horas . sirjay está buscando una respuesta de una fuente confiable . Hice una red neuronal LSTM...
Tengo una red generativa de confrontación, donde el discriminador se minimiza con el MSE y el generador se debe maximizar. Porque ambos son oponentes que persiguen el objetivo opuesto. generator = Sequential() generator.add(Dense(units=50, activation='sigmoid',
Resumen del problema y pregunta Estoy tratando de ver algunos de los datos dentro de un objeto que se pueden enumerar pero no indexar. Todavía soy nuevo en Python, pero no entiendo cómo esto es posible. Si puede enumerarlo, ¿por qué no puede acceder al índice de la misma manera que lo hace...