¿Se puede aplicar el análisis de componentes principales a conjuntos de datos que contienen una combinación de variables continuas y categóricas?

Tengo un conjunto de datos que tiene datos continuos y categóricos. Estoy analizando utilizando PCA y me pregunto si está bien incluir las variables categóricas como parte del análisis. Entiendo que PCA solo se puede aplicar a variables continuas. ¿Es eso correcto? Si no se puede utilizar para datos categóricos, ¿qué alternativas existen para su análisis?

Aunque una PCA aplicada a datos binarios arrojaría resultados comparables a los obtenidos de un Análisis de Correspondencia Múltiple (los puntajes factoriales y los valores propios están relacionados linealmente), existen técnicas más apropiadas para tratar tipos de datos mixtos, a saber, el Análisis Factorial Múltiple para datos mixtos disponibles en el paquete FactoMineR R ( AFDM()). Si sus variables pueden considerarse como subconjuntos estructurados de atributos descriptivos, entonces el Análisis Factorial Múltiple ( MFA()) también es una opción.

El desafío con las variables categóricas es encontrar una forma adecuada de representar distancias entre categorías de variables e individuos en el espacio factorial. Para superar este problema, puede buscar una transformación no lineal de cada variable, ya sea nominal, ordinal, polinomial o numérica, con una escala óptima. Esto está bien explicado en Métodos Gifi para el Escalado Óptimo en R: Los homals del paquete , y una implementación está disponible en los homals del paquete R correspondiente .

Una búsqueda en Google "pca para variables discretas" ofrece esta buena descripción de S. Kolenikov (@StasK) y G. Angeles. Para agregar a la respuesta CHL, el análisis de PC es realmente un análisis de vectores propios de la matriz de covarianza. Entonces, el problema es cómo calcular la matriz de covarianza "correcta". Uno de los enfoques es utilizar la correlación policórica .

Sugeriría echar un vistazo a Linting & Kooij, 2012 " Análisis de componentes principales no lineales con CATPCA: un tutorial ", Journal of Personality Assessment ; 94 (1).

Resumen

Este artículo está configurado como un tutorial para el análisis de componentes principales no lineales (NLPCA), guiando sistemáticamente al lector a través del proceso de análisis de datos reales sobre la evaluación de la personalidad por la prueba de Rorschach Inkblot. NLPCA es una alternativa más flexible a PCA lineal que puede manejar el análisis de variables posiblemente no relacionadas linealmente con diferentes tipos de nivel de medición. El método es particularmente adecuado para analizar datos nominales (cualitativos) y ordinales (por ejemplo, tipo Likert), posiblemente combinados con datos numéricos. El programa CATPCA del módulo Categorías en SPSS se utiliza en los análisis, pero la descripción del método se puede generalizar fácilmente a otros paquetes de software.

Todavía no tengo el privilegio de comentar la publicación de alguien, así que agrego mi comentario como una respuesta separada, así que tengan paciencia conmigo.

Continuando con lo que comentó @ Martin F, recientemente me encontré con los PCA no lineales. Estaba buscando PCA no lineales como una posible alternativa cuando una variable continua se acerca a la distribución de una variable ordinal a medida que los datos se vuelven más dispersos (sucede en genética muchas veces cuando la frecuencia alélica menor de la variable disminuye y disminuye y usted queda con un número muy bajo de recuentos en los que realmente no puede justificar una distribución de una variable continua y tiene que aflojar los supuestos de distribución convirtiéndolos en una variable ordinal o una variable categórica.) PCA no lineal puede manejar ambas condiciones, pero después discutiendo con maestros de estadística en la facultad de genética, la llamada de consenso fue que los PCA no lineales no se usan con mucha frecuencia y el comportamiento de esos PCA aún no se ha probado exhaustivamente (es posible que se refieran solo al campo de la genética, así que tómelo con un grano de sal). De hecho, es una opción fascinante. Espero haber agregado 2 centavos (afortunadamente relevantes) a la discusión.

Existe un enfoque recientemente desarrollado para tales problemas: modelos generalizados de bajo rango .

Uno de los documentos que utilizan esta técnica incluso se llama PCA en un marco de datos .

PCA se puede plantear así:

$n$$m$$M$

$n$$k$$\hat{X}$$k$$m$$\hat{Y}$$k$

$\hat{X}, \hat{Y}$$\underset{X, Y}{argmin} \| M - XY \|_F^2$

El 'generalizado' de GLRM significa cambiar a otra cosa y agregando un término de regularización.$\| \cdot \|_F^2$

PCAmixdata# Paquete de estadísticas :

Implementa análisis de componentes principales, rotación ortogonal y análisis de factores múltiples para una mezcla de variables cuantitativas y cualitativas.

El ejemplo de la viñeta muestra resultados para resultados continuos y categóricos