Se conoce la distribución de valores propios dado uno

Estoy familiarizado con el uso de las ideas de Random Matrix Theory para determinar el número de componentes principales del PCA de una matriz de covarianza / correlación para usar para formar factores.

Si el valor propio asociado con la primera PC es grande, significa que los valores propios restantes deben ser pequeños (ya que la suma de los valores propios debe ser igual a la traza de la matriz de correlación). Cuando la primera PC es lo suficientemente grande, es posible que todos estos valores propios estén por debajo de los límites inferiores en la distribución Marcenko-Pastur. Esto tiene sentido que sean bajos no debido a una posibilidad aleatoria, sino porque el primer valor propio es muy grande. Sin embargo, eso no significa que contengan información significativa. Más bien, tendría sentido hacer la pregunta "dado que la primera PC es un gran número, ¿cómo sería la distribución de los valores propios restantes si los datos aleatorios fueran responsables de ellos?"

¿Hay alguna investigación que aborde este problema? Si es posible obtener la distribución de Marcenko-Pastur condicional al conocimiento de uno o más valores propios, entonces sería posible proceder de forma iterativa para determinar si los factores reflejan información significativa.

correlation pca covariance eigenvalues random-matrix Juan
fuente

¿Estás hablando solo de datos aleatorios de un factor (esferoide aleatorio)?

ttnphns

No estoy seguro de qué quiere decir con esferoide aleatorio, pero en general podría haber más de un factor para evaluar. Lo resolví para que el problema del valor propio condicional se pueda escribir como , donde son los vectores propios asociados con el valores propios más grandes, pero lo que pude encontrar como las desigualdades que unen los valores propios del producto de dos matrices parecía bastante amplio.

e i g (Σ (I - β β^{'})^{'} (I - β β^{'}))

$eig(\Sigma(I-\beta\beta')'(I-\beta\beta'))$

β

$\beta$

n

$n$

John

Pensándolo bien por un segundo, creo que obtuve los resultados correctos.

\tilde{λ} \pm = (1 + \frac{1}{Q} \pm 2 \sqrt{\frac{1}{Q}}) (\sum_{i = 1}^{n} λ_{i} - \sum_{j = 1}^{J} λ_{j}) / n

$\widetilde{\lambda}\pm=\left(1+\frac{1}{Q}\pm2\sqrt{\frac{1}{Q}}\right)\left( \sum_{i=1}^{n}\lambda_{i}-\sum_{j=1}^{J}\lambda_{j}\right)/n$

Juan

Respuestas:

Aquí hay un documento sobre su problema: http://math.nyu.edu/faculty/avellane/LalouxPCA.pdf

La idea es simple: calcula la distribución de Marcenko-Pastur con una variación modificada de los elementos de la matriz. La varianza modificada simplemente corresponde a la varianza explicada por otro valor propio que no sea el primero.

Como dijo John, debe reemplazar por para los primeros valores propios deSi ha normalizado su problema y solo desea eliminar el primer componente, debe reemplazar por . Obtendrás: $\sigma^2$ $(\sum_{i=1}^{n}\lambda_{i}-\sum_{j=1}^{J}\lambda_{j})/n$ $J$ $\sigma^2$ $\frac{1-\lambda_{1}}{n}$

ρ^{'} (λ) = \frac{n Q}{2 π (1 - λ_{1})} (\frac{\sqrt{(λ_{m a x} - λ) (λ - λ_{m i n})}}{λ})

$\rho'(\lambda)= \frac{nQ}{2\pi(1-\lambda_{1})}(\frac{\sqrt{(\lambda_{max}-\lambda)(\lambda-\lambda_{min})}}{\lambda})$

Con:

λ_{m i n / m a x} = \frac{n}{(1 - λ_{1})} (1 + \frac{1}{Q} \pm 2 \sqrt{\frac{1}{Q}})

$\lambda_{min/max}= \frac{n}{(1-\lambda_{1})}(1+\frac{1}{Q}\pm2\sqrt{\frac{1}{Q}})$

Como probablemente haya más información en su matriz que solo un gran valor propio y ruido, observará alguna diferencia. Por ejemplo, en los estudios de correlación de mercado, podemos observar una fuga de los valores propios por el borde superior del espectro. (Corresponde a sectores financieros).

Otro enfoque mencionado en el documento es considerar como un parámetro único en la distribución marcenko pastur. Luego debe ajustar este parámetro para que se ajuste a su curva. $\sigma^2$

Para obtener más información sobre técnicas y referencias útiles, puede consultar: http://arxiv.org/abs/physics/0507111

lcrmorin
fuente

Esta fórmula también necesita revisar Q ya que el número de columnas se ha reducido en 1.

Rohit Arora