Preguntas etiquetadas con loss-functions

Comprender la función de pérdida de GAN

Estoy luchando por comprender la función de pérdida de GAN como se proporciona en Understanding Generative Adversarial Networks (una publicación de blog escrita por Daniel Seita). En la pérdida de entropía cruzada estándar, tenemos una salida que se ha ejecutado a través de una función sigmoidea y...

La pérdida salta abruptamente cuando disminuyo la tasa de aprendizaje con el optimizador Adam en PyTorch

Estoy entrenando una auto-encoderred con Adamoptimizador (con amsgrad=True) y MSE losspara la tarea de separación de fuente de audio de un solo canal. Cada vez que disminuyo la tasa de aprendizaje por un factor, la pérdida de la red salta abruptamente y luego disminuye hasta la próxima disminución...