La descomposición del valor singular (SVD) de una matriz viene dada por donde y son matrices ortogonales y es una matriz diagonal. UNA UNA A = U S V ⊤ UNA=USV⊤ U U V V S S
El análisis de componentes principales (PCA) generalmente se explica a través de una descomposición propia de la matriz de covarianza. Sin embargo, también se puede realizar a través de descomposición en valores singulares (SVD) de la matriz de datos . ¿Como funciona? ¿Cuál es la conexión entre...
El análisis de componentes principales (PCA) se puede utilizar para reducir la dimensionalidad. Después de realizar tal reducción de dimensionalidad, ¿cómo se puede reconstruir aproximadamente las variables / características originales a partir de un pequeño número de componentes...
Estoy empezando a incursionar con el uso de glmnetla LASSO regresión donde mi resultado de interés es dicotómica. He creado un pequeño marco de datos simulados a continuación: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, 0.45, 0.99, 0.84,...
He leído sobre la descomposición de valores singulares (SVD). En casi todos los libros de texto se menciona que factoriza la matriz en tres matrices con especificación dada. Pero, ¿cuál es la intuición detrás de dividir la matriz en tal forma? PCA y otros algoritmos para la reducción de...
Biplot se usa a menudo para mostrar resultados del análisis de componentes principales (y de técnicas relacionadas). Es un diagrama de dispersión dual o superpuesto que muestra cargas de componentes y puntajes de componentes simultáneamente. @Amoeba me informó hoy que ha dado una respuesta que...
¿Alguien puede recomendar una buena exposición de la teoría detrás de la regresión de mínimos cuadrados parciales (disponible en línea) para alguien que entiende SVD y PCA? He visto muchas fuentes en línea y no he encontrado nada que tuviera la combinación correcta de rigor y accesibilidad. He...
/ edit: Seguimiento adicional ahora puedes usar irlba :: prcomp_irlba / edit: siguiendo mi propio post. irlbaahora tiene argumentos de "centro" y "escala", que le permiten usarlo para calcular componentes principales, por ejemplo: pc <- M %*% irlba(M, nv=5, nu=0, center=colMeans(M),...
Estoy un poco confundido con cómo se usa la SVD en el filtrado colaborativo. Supongamos que tengo un gráfico social y construyo una matriz de adyacencia desde los bordes, luego tomo un SVD (olvidemos la regularización, las tasas de aprendizaje, las optimizaciones de dispersión, etc.), ¿cómo uso...
¿Qué diferencia hace el centrado (o de-significado) de sus datos para PCA? He oído que facilita las matemáticas o que evita que la primera PC esté dominada por los medios de las variables, pero siento que todavía no he podido comprender el concepto con firmeza. Por ejemplo, la respuesta principal...
Estoy estudiando PCA del curso Coursera de Andrew Ng y otros materiales. En el curso de Stanford NLP, la primera asignación de cs224n , y en el video de la conferencia de Andrew Ng , hacen una descomposición de valores singulares en lugar de la descomposición de vectores propios de la matriz de...
Solo estoy tratando de replicar una afirmación hecha en el siguiente documento, Buscando Biclusters correlacionados a partir de datos de expresión génica , que es: Proposición 4. Si . entonces tenemos:XyoJ= RyodoTJXyoJ=RyodoJTX_{IJ}=R_{I}C^{T}_{J} yo. Si es un bicluster perfecto con modelo...
Estaba utilizando el Análisis discriminante lineal (LDA) de la scikit-learnbiblioteca de aprendizaje automático (Python) para la reducción de la dimensionalidad y tenía un poco de curiosidad por los resultados. Ahora me pregunto qué scikit-learnestá haciendo la LDA para que los resultados se vean...
Dada una aproximación de PCA (o SVD) de la matriz XXX con una matriz X , sabemos que X es la mejor aproximación de bajo rango de X .X^X^\hat XX^X^\hat XXXX ¿Es esto de acuerdo con la norma inducida ∥⋅∥2∥⋅∥2\parallel \cdot \parallel_2 (es decir, la norma de mayor valor propio) o de acuerdo con la...
Tengo una matriz de correlación de retornos de seguridad cuyo determinante es cero. (Esto es un poco sorprendente ya que la matriz de correlación de la muestra y la matriz de covarianza correspondiente deberían ser teóricamente definitivas positivas). Mi hipótesis es que al menos un valor depende...
¿Cuál es la mejor manera de calcular la descomposición de valores singulares (SVD) de una matriz positiva muy grande (65M x 3.4M) donde los datos son extremadamente escasos? Menos del 0.1% de la matriz no es cero. Necesito una forma que: cabe en la memoria (sé que existen métodos en línea) se...
Estoy investigando varias técnicas utilizadas en la agrupación de documentos y me gustaría aclarar algunas dudas sobre PCA (análisis de componentes principales) y LSA (análisis semántico latente). Lo primero: ¿cuáles son las diferencias entre ellos? Sé que en PCA, la descomposición SVD se aplica a...
Esta pregunta trata sobre una manera eficiente de calcular los componentes principales. Muchos textos sobre PCA lineal abogan por el uso de la descomposición de valores singulares de los datos de casos . Es decir, si tenemos datos XX\bf X y queremos reemplazar las variables (sus columnas ) por...
Me he encontrado con un escenario en el que tengo 10 señales / persona para 10 personas (es decir, 100 muestras) que contienen 14000 puntos de datos (dimensiones) que necesito pasar a un clasificador. Me gustaría reducir la dimensionalidad de estos datos y PCA parece ser la forma de hacerlo. Sin...
En el filtrado colaborativo, tenemos valores que no se completan. Supongamos que un usuario no vio una película, entonces tenemos que poner una 'na' allí. Si voy a tomar un SVD de esta matriz, entonces tengo que poner algún número allí, digamos 0. Ahora, si factorizo la matriz, tengo un método...
Observo un comportamiento muy extraño en el resultado SVD de datos aleatorios, que puedo reproducir tanto en Matlab como en R. Parece un problema numérico en la biblioteca LAPACK; ¿Lo es? Extraigo muestras de la Gaussiana dimensional con media cero y covarianza de identidad: . Les reunir en un...