Preguntas etiquetadas con multicollinearity

Las pruebas de permutación (también llamadas prueba de aleatorización, prueba de aleatorización o prueba exacta) son muy útiles y resultan útiles cuando t-testno se cumple el supuesto de distribución normal requerido por ejemplo y cuando se transforman los valores mediante la clasificación de...

Hoy, estaba jugando con un pequeño conjunto de datos y realicé una regresión OLS simple que esperaba que fallara debido a la perfecta multicolinealidad. Sin embargo, no fue así. Esto implica que mi comprensión de la multicolinealidad es incorrecta. Mi pregunta es: ¿Dónde me equivoco? Creo que...

¿Estabilidad beta en regresión lineal con alta multicolinealidad? Digamos que en una regresión lineal, las variables y x 2 tienen una alta multicolinealidad (la correlación es de alrededor de 0.9).X1x1x_1X2x2x_2 Nos preocupa la estabilidad del coeficiente , por lo que debemos tratar la...

Supongamos .Xβ=YXβ=YX\beta =Y No sabemos exactamente, sólo su correlación con cada predictor, .X t YYYYXtYXtYX^\mathrm{t}Y La solución de mínimos cuadrados ordinarios (OLS) es y no hay ningún problema.β=(XtX)−1XtYβ=(XtX)−1XtY\beta=(X^\mathrm{t} X)^{-1} X^\mathrm{t}Y Pero supongamos que es casi...

Estoy aprendiendo sobre la regresión de crestas y sé que la regresión de crestas tiende a funcionar mejor en presencia de multicolinealidad. Me pregunto por qué esto es cierto. Una respuesta intuitiva o matemática sería satisfactoria (ambos tipos de respuestas serían aún más...

Aprendí que usando el vif()método de carpaquete, podemos calcular el grado de multicolinealidad de las entradas en un modelo. En wikipedia , si el vifvalor es mayor que 5entonces, podemos considerar que la entrada sufre un problema de multicolinealidad. Por ejemplo, he desarrollado un modelo de...

Estoy familiarizado con el concepto de variables categóricas y la respectiva codificación de variables ficticias que nos permite ajustar un nivel como línea de base para evitar la colinealidad. También estoy familiarizado con la forma de interpretar las estimaciones de parámetros de tales modelos:...

Estoy ejecutando kmeans para identificar grupos de clientes. Tengo aproximadamente 100 variables para identificar grupos. Cada una de estas variables representa el% de gasto de un cliente en una categoría. Entonces, si tengo 100 categorías, tengo estas 100 variables, de modo que la suma de estas...

Tengo 6 variables ( ) que estoy usando para predecir . Al realizar mi análisis de datos, primero probé una regresión lineal múltiple. A partir de esto, solo dos variables fueron significativas. Sin embargo, cuando ejecuté una regresión lineal comparando cada variable individualmente con , todas...

En respuesta a una pregunta sobre la selección de modelos en presencia de multicolinealidad , Frank Harrell sugirió : Ponga todas las variables en el modelo pero no pruebe el efecto de una variable ajustada por los efectos de las variables competidoras ... Las pruebas fragmentarias de las...

Digamos que tenemos un problema de clasificación binaria con características principalmente categóricas. Utilizamos algún modelo no lineal (por ejemplo, XGBoost o Random Forests) para aprenderlo. ¿Debería preocuparse por la multicolinealidad? ¿Por qué? Si la respuesta a lo anterior es verdadera,...

Me he encontrado con un muy buen texto sobre Bayes / MCMC. TI sugiere que una estandarización de sus variables independientes hará que un algoritmo MCMC (Metrópolis) sea más eficiente, pero también puede reducir la (multi) colinealidad. ¿Puede ser eso cierto? ¿Es esto algo que debería hacer como...

Cuando se usan splines cúbicas naturales (es decir, restringidas), las funciones básicas creadas son altamente colineales, y cuando se usan en una regresión parecen producir estadísticas muy altas de VIF (factor de inflación de varianza), lo que indica multicolinealidad. Cuando se considera el caso...

¿Cuál es un ejemplo de colinealidad perfecta en términos de la matriz de diseño XXX ? Quisiera un ejemplo donde β = ( X ' X ) - 1 X ' Y no puede estimarse porque ( X ' X ) no es invertible.β^=(X′X)−1X′Yβ^=(X′X)−1X′Y\hat \beta =

Supongamos que tenemos un modelo lineal Model1y vcov(Model1)da la siguiente matriz: (Intercept) latitude sea.distance altitude (Intercept) 28.898100 -23.6439000 -34.1523000 0.50790600 latitude -23.643900 19.7032500 28.4602500 -0.42471450 sea.distance -34.152300 28.4602500 42.4714500...

Hay mucho acerca de la colinealidad con respecto a los predictores continuos, pero no tanto que pueda encontrar en los predictores categóricos. Tengo datos de este tipo ilustrados a continuación. El primer factor es una variable genética (recuento de alelos), el segundo factor es una categoría de...

En un artículo que escribí, modelé las variables aleatorias y lugar de e para eliminar eficazmente los problemas que surgen cuando e están altamente correlacionados y tienen la misma varianza (como en mi aplicación). Los árbitros quieren que les dé una referencia. Podría demostrarlo fácilmente,...

Descargo de responsabilidad: Esto es para un proyecto de tarea. Estoy tratando de encontrar el mejor modelo para los precios de los diamantes, dependiendo de varias variables y hasta ahora parece que tengo un modelo bastante bueno. Sin embargo, me he encontrado con dos variables que obviamente son...

Quiero detectar si la colinealidad es un problema en mi regresión OLS. Entiendo que los factores de inflación de varianza y el índice de condición son dos medidas comúnmente utilizadas, pero me resulta difícil encontrar algo definitivo sobre los méritos de cada enfoque, o cuáles deberían ser los...

Me gustaría entrenar un SVM para clasificar casos (VERDADERO / FALSO) basado en 20 atributos. Sé que algunos de esos atributos están altamente correlacionados. Por lo tanto, mi pregunta es: ¿SVM es sensible a la correlación o redundancia entre las características? Alguna