¿Por qué se llaman así los modelos de análisis "discriminantes" gaussianos?

Los modelos de análisis discriminante gaussiano aprenden y luego aplican la regla de Bayes para evaluar P ( y | x ) = P ( x | y ) P p r i o r ( y $P(x|y)$Por lo tanto, son modelos generativos. ¿Por qué entonces se llama análisis discriminante? Si es porque finalmente derivamos una curva discriminante entre las clases, entonces eso sucede para todos los modelos generativos.

$$P(y|x) = \frac{P(x|y)P_{prior}(y)}{\Sigma_{g \in Y} P(x|g) P_{prior}(g) }.$$

Si te refieres a LDA , diría que el nombre, análisis discriminante lineal, puede explicarse históricamente al menos desde el artículo de Fisher de 1936 , que, según mi leal saber y entender, precede a la terminología y distinción actuales en el aprendizaje automático entre Un modelo generativo. No es que Fisher lo llamara análisis discriminante lineal directamente, pero sí solicitó explícitamente una función lineal para la discriminación. Como comentario secundario curioso, Fisher consideró la discriminación del famoso conjunto de datos de Iris en el documento.

Fisher, por cierto, no presentó el método lineal para la discriminación en términos de un modelo generativo. Se buscó una combinación lineal (para dos clases) que maximiza la relación de la varianza entre grupos a la varianza dentro del grupo , que no requiere un supuesto de normalidad. Los detalles, y cómo se relaciona con LDA como una regla de Bayes para un modelo generativo, se pueden encontrar en el Capítulo 3 en el libro de Brian Ripley "Reconocimiento de patrones y redes neuronales".

$(Y=0 , Y=1)$

1. $P(X|Y=0) \sim \mathcal{N}(\mu_0,\Sigma_0)$
2. $P(X|Y=1) \sim \mathcal{N}(\mu_1,\Sigma_1)$
3. $P(Y=1)=1-P(Y=0)=\Phi$

Y luego obtiene los parámetros $(\mu_0,\Sigma_0,\mu_1,\Sigma_1,\Phi)$ utilizando la estimación de máxima verosimilitud.

Por lo tanto, es gaussiano porque usa una suposición gaussiana para la distribución intragrupo (es posible que desee usar uniforme en su lugar para ex) y discriminante porque tiene como objetivo separar los datos en grupos.

Puedes encontrar más información aquí .