Preguntas etiquetadas con linear-algebra

Últimamente me he dado cuenta de que muchas personas están desarrollando equivalentes de tensor de muchos métodos (factorización de tensor, núcleos de tensor, tensores para modelar temas, etc.) Me pregunto, ¿por qué el mundo de repente está fascinado con los tensores? ¿Hay documentos recientes /...

He estado trabajando en R por un tiempo y me he enfrentado a cosas como PCA, SVD, descomposiciones QR y muchos resultados de álgebra lineal (al inspeccionar estimaciones de regresiones ponderadas y demás), así que quería saber si alguien tiene una recomendación sobre un buen libro completo de...

He leído mucho sobre PCA, incluidos varios tutoriales y preguntas (como este , este , este y este ). El problema geométrico que PCA está tratando de optimizar es claro para mí: PCA trata de encontrar el primer componente principal minimizando el error de reconstrucción (proyección), que maximiza...

He leído sobre la descomposición de valores singulares (SVD). En casi todos los libros de texto se menciona que factoriza la matriz en tres matrices con especificación dada. Pero, ¿cuál es la intuición detrás de dividir la matriz en tal forma? PCA y otros algoritmos para la reducción de...

Supongo que la respuesta debería ser sí, pero aún siento que algo no está bien. Debería haber algunos resultados generales en la literatura, ¿alguien podría

Escuché que se pueden encontrar correlaciones parciales entre variables aleatorias invirtiendo la matriz de covarianza y tomando celdas apropiadas de dicha matriz de precisión resultante (este hecho se menciona en http://en.wikipedia.org/wiki/Partial_correlation , pero sin una prueba) . ¿Por qué...

Digamos que tengo una distribución gaussiana multivariada -dimensional. Y tomo observaciones (cada uno de ellos un -vector) de esta distribución y calcular la matriz de covarianza de la muestra . En este artículo , los autores afirman que la matriz de covarianza muestral calculada con es singular.n...

Estoy estudiando PCA del curso Coursera de Andrew Ng y otros materiales. En el curso de Stanford NLP, la primera asignación de cs224n , y en el video de la conferencia de Andrew Ng , hacen una descomposición de valores singulares en lugar de la descomposición de vectores propios de la matriz de...

Si xx\mathbf{x} e yy\mathbf{y} son dos vectores unitarios aleatorios independientes en RDRD\mathbb{R}^D (distribuidos uniformemente en una esfera unitaria), ¿cuál es la distribución de su producto escalar (producto de puntos) x⋅yx⋅y\mathbf x \cdot \mathbf y

Observo un comportamiento muy extraño en el resultado SVD de datos aleatorios, que puedo reproducir tanto en Matlab como en R. Parece un problema numérico en la biblioteca LAPACK; ¿Lo es? Extraigo muestras de la Gaussiana dimensional con media cero y covarianza de identidad: . Les reunir en un...

Sé la definición de matriz simétrica positiva definida (SPD), pero quiero entender más. ¿Por qué son tan importantes, intuitivamente? Aquí está lo que sé. ¿Qué más? Para un dato dado, la matriz de covarianza es SPD. La matriz de covarianza es una métrica importante; consulte esta excelente...

Estoy tratando de obtener una comprensión intuitiva de cómo funciona el análisis de componentes principales (PCA) en el espacio sujeto (dual) . Considere el conjunto de datos 2D con dos variables, y , puntos de datos (matriz de datos es y se supone que está centrado). La presentación habitual de...

Quiero transformar mis datos modo que las variaciones sean una y las covarianzas sean cero (es decir, quiero blanquear los datos). Además, los medios deben ser cero.XX\mathbf X Sé que llegaré allí haciendo la estandarización Z y la transformación PCA, pero ¿en qué orden debo hacerlo? Debo agregar...

Deje . La matriz de información de Fisher se define como:θ ∈ Rnorteθ∈Rnorte\theta \in R^{n} yo( θ )i , j= - E[ ∂2Iniciar sesión( f( XEl | θ))∂θyo∂θj∣∣∣θ ]yo(θ)yo,j=-mi[∂2Iniciar sesión⁡(F(XEl |θ))∂θyo∂θjEl |θ]I(\theta)_{i,j} = -E\left[\frac{\partial^{2} \log(f(X|\theta))}{\partial \theta_{i}...

Esta es una pregunta muy simple, pero no puedo encontrar la derivación en ningún lugar de Internet o en un libro. Me gustaría ver la derivación de cómo un Bayesiano actualiza una distribución normal multivariada. Por ejemplo: imagina que P(x|μ,Σ)P(μ)==N(μ,Σ)N(μ0,Σ0).P(x|μ,Σ)=N(μ,Σ)P(μ)=N(μ0,Σ0)....

Supongamos que tengo una matriz densa de tamaño m × n , con descomposición SVD A = U S V ⊤ . En puedo calcular la SVD de la siguiente manera: .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Si se agrega una nueva fila a A , ¿se puede calcular la nueva...

Como se indicó en esta pregunta, el rango máximo de la matriz de covarianza es n−1n−1n-1 donde nnn es el tamaño de la muestra y, por lo tanto, si la dimensión de la matriz de covarianza es igual al tamaño de la muestra, sería singular. No puedo entender por qué restamos 111 del rango máximo nnn de...

Para la norma vectorial, la norma L2 o "distancia euclidiana" es la definición ampliamente utilizada e intuitiva. Pero, ¿por qué la definición de norma "más utilizada" o "predeterminada" para una matriz es la norma espectral , pero no la norma Frobenius (que es similar a la norma L2 para los...

Digamos que tenemos X de forma (2, 5) e y de forma (2,) Esto funciona: np.linalg.lstsq(X, y) Es de esperar que esto funcione solo si X tenía forma (N, 5) donde N> = 5 Pero, ¿por qué y cómo? Volvemos 5 pesos como se esperaba, pero ¿cómo se resuelve este problema? ¿No es que tenemos 2...

Considere el siguiente biplot de PCA: library(mvtnorm) set.seed(1) x <- rmvnorm(2000, rep(0, 6), diag(c(5, rep(1,5)))) x <- scale(x, center=T, scale=F) pc <- princomp(x) biplot(pc) Hay un montón de flechas rojas trazadas, ¿qué significan? Sabía que la primera flecha etiquetada con...