¿De qué manera el empleo de algoritmos evolutivos para diseñar y entrenar redes neuronales artificiales tiene ventajas sobre el uso de los algoritmos convencionales de retropropagación?
9
¿De qué manera el empleo de algoritmos evolutivos para diseñar y entrenar redes neuronales artificiales tiene ventajas sobre el uso de los algoritmos convencionales de retropropagación?
A diferencia de la retropropagación, los algoritmos evolutivos no requieren que la función objetivo sea diferencial con respecto a los parámetros que desea optimizar. Como resultado, puede optimizar "más cosas" en la red, como las funciones de activación o el número de capas, lo que no sería posible en la retropropagación estándar.
Otra ventaja es que al definir las funciones de mutación y cruce, puede influir en cómo se debe explorar el espacio de búsqueda de parámetros.
Además de la respuesta de Franck, puede haber mejores óptimas (incluso óptimas globales) que existen en la dirección opuesta al gradiente (que puede estar en la dirección de algunas óptimas locales). Los algoritmos evolutivos tienen alcance para buscar en el área circundante, mientras que la propagación hacia atrás siempre se moverá en la dirección del gradiente. Sin garantía (debido a su aleatoriedad), los algoritmos evolutivos pueden ser capaces de encontrar soluciones que la retropropagación simplemente no puede.