¿Cómo se podría depurar, comprender o corregir el resultado de una red neuronal?

Parece bastante controvertido decir que los enfoques basados ​​en NN se están convirtiendo en herramientas bastante poderosas en muchas áreas de IA, ya sea reconociendo y descomponiendo imágenes (caras en una frontera, escenas de calles en automóviles, toma de decisiones en situaciones inciertas /...