¿Son únicas las soluciones PCA?

12

Cuando ejecuto PCA en un determinado conjunto de datos, ¿la solución me es única?

Es decir, obtengo un conjunto de coordenadas 2D, basadas en distancias entre puntos. ¿Es posible encontrar al menos una disposición más de los puntos que cumplirían con estas restricciones?

Si la respuesta es sí, ¿cómo puedo encontrar una solución tan diferente?

pca raygozag
fuente

11

La respuesta a la pregunta de unicidad es sí y no. Es "sí" en el sentido de que los espacios propios y los valores propios están matemáticamente bien definidos de manera única. Es "no" en el sentido de que (a) hay múltiples formas de representar esos espacios propios (incluso se puede negar un vector propio normalizado y hay muchas opciones de base para espacios propios degenerados) y (b) diferentes algoritmos pueden producir resultados que difieren debido a la acumulación de error de coma flotante en los cálculos.

whuber

Ramsay y Silverman en el libro "Análisis de datos funcionales", mencionan la rotación VARIMAX. Habla de dividir un conjunto de datos de funciones (representadas como una matriz) en sus componentes principales.

poder el

Parece que quiere usar PCA como herramienta para la reducción de dimensiones. Puede comenzar mirando la reducción de Dimensionalidad ...

Elvis

7

$p$ $p$ $X$ $w$

λ_{1} = max_{w \in R^{p} : | | w | | = 1} w^{'} X w

$\lambda_1=\underset{w\in\mathbb{R}^{p}:||w||=1}{\max} w'Xw$

$\lambda_1$ $w^*$

$w$

Sin embargo, los algoritmos para calcular estas soluciones son deterministas, lo que significa que, salvo para los casos de esquina numéricos, las soluciones que obtenga deben ser las mismas.

$X$

usuario603
fuente

7

$\mathbf{w}$ $n$ $-\mathbf{w}$ $n$

Cam.Davidson.Pilon
fuente

3

Para una aplicación práctica interesante de esta ambigüedad, consulte stats.stackexchange.com/questions/34396 . (Por cierto, el cambio de signo se dio cuenta: ver el primer comentario a esta pregunta.)

whuber

¿Son únicas las soluciones PCA?

Respuestas: