La regresión paso a paso (a menudo llamada regresión hacia adelante o hacia atrás) implica ajustar un modelo de regresión y agregar o eliminar predictores basados en estadísticas , o criterios de información para llegar de manera * paso a paso * a un modelo final. Esta etiqueta también se puede utilizar para la selección hacia adelante, la eliminación hacia atrás y las mejores estrategias de selección de variables de subconjuntos. t t R 2 R2
Me gustaría implementar un algoritmo para la selección automática de modelos. Estoy pensando en hacer una regresión gradual, pero cualquier cosa servirá (aunque debe basarse en regresiones lineales). Mi problema es que no puedo encontrar una metodología o una implementación de código abierto...
Tengo un conjunto de datos con alrededor de 30 variables independientes y me gustaría construir un modelo lineal generalizado (GLM) para explorar la relación entre ellos y la variable dependiente. Soy consciente de que el método que me enseñaron para esta situación, la regresión gradual, ahora se...
En un conjunto de datos de dos poblaciones no superpuestas (pacientes y sanos, total n = 60n=60n=60 ), me gustaría encontrar (de 300300300 variables independientes) predictores significativos para una variable dependiente continua. La correlación entre predictores está presente. Estoy interesado en...
Consideremos, por ejemplo, un modelo de regresión lineal. Escuché que, en la minería de datos, después de realizar una selección gradual basada en el criterio AIC, es engañoso mirar los valores p para probar la hipótesis nula de que cada coeficiente de regresión verdadero es cero. Escuché que uno...
Soy nuevo en esta cosa R pero no estoy seguro de qué modelo seleccionar. Hice una regresión progresiva hacia adelante seleccionando cada variable en función del AIC más bajo. Se me ocurrieron 3 modelos que no estoy seguro de cuál es el "mejor". Model 1: Var1 (p=0.03) AIC=14.978 Model 2: Var1...
Soy muy consciente de los problemas de selección por pasos / adelante / atrás en los modelos de regresión. Existen numerosos casos de investigadores que denuncian los métodos y apuntan a mejores alternativas. Tenía curiosidad por saber si hay alguna historia donde exista un análisis...
Estoy usando el paquete R penalizado para obtener estimaciones reducidas de coeficientes para un conjunto de datos donde tengo muchos predictores y poco conocimiento de cuáles son importantes. Después de haber elegido los parámetros de ajuste L1 y L2 y estoy satisfecho con mis coeficientes, ¿hay...
Los métodos de selección de variables algorítmicas escalonadas tienden a seleccionar modelos que sesgan más o menos todas las estimaciones en los modelos de regresión ( ββ\beta y sus SE, valores p , estadísticas F , etc.), y tienen la misma probabilidad de excluir predictores verdaderos como...
He leído innumerables publicaciones en este sitio que están increíblemente en contra del uso de la selección gradual de variables usando cualquier tipo de criterio, ya sea basado en valores p, AIC, BIC, etc. Entiendo por qué estos procedimientos son en general bastante pobres para la selección de...
Me he estado preguntando, ¿por qué los métodos de selección de modelos LASSO y LARS son tan populares a pesar de que son básicamente variaciones de la selección progresiva (y por lo tanto sufren de dependencia de ruta)? Del mismo modo, ¿por qué los métodos de General a Específico (GETS) para la...
Supongamos que quiero construir un clasificador binario. Tengo varios miles de funciones y solo unas pocas decenas de muestras. Desde el conocimiento del dominio, tengo una buena razón para creer que la etiqueta de clase se puede predecir con precisión utilizando sólo unas pocas características,...
En R, el drop1comando genera algo ordenado. Estos dos comandos deberían obtener algún resultado: example(step)#-> swiss drop1(lm1, test="F") El mío se ve así: > drop1(lm1, test="F") Single term deletions Model: Fertility ~ Agriculture + Examination + Education + Catholic +...
En psicología y otros campos, a menudo se emplea una forma de regresión gradual que implica lo siguiente: Observe los predictores restantes (al principio no hay ninguno en el modelo) e identifique el predictor que resulta en el mayor cambio de r-cuadrado; Si el valor p del cambio de r-cuadrado...
La regresión gradual se había usado en exceso en muchos artículos biomédicos en el pasado, pero esto parece estar mejorando con una mejor educación de sus muchos problemas. Sin embargo, muchos críticos más antiguos todavía lo piden. ¿Cuáles son las circunstancias en las que la regresión gradual...
Estoy ajustando una regresión logística paso a paso en un conjunto de datos en SPSS. En el procedimiento, estoy ajustando mi modelo a un subconjunto aleatorio que es de aprox. 60% de la muestra total, lo que equivale a unos 330 casos. Lo que me parece interesante es que cada vez que vuelvo a...
¿Cuál es el valor p crítico utilizado por la step()función en R para la regresión por pasos? Supongo que es 0.15, pero ¿es correcta mi suposición? ¿Cómo puedo cambiar el valor p
Estoy experimentando una regresión gradual por el bien de la diversidad en mi enfoque del problema. Entonces, tengo 2 preguntas: ¿Cuáles son las ventajas de la regresión gradual? ¿Cuáles son sus puntos fuertes específicos? ¿Qué opina sobre el enfoque híbrido, donde utiliza la regresión gradual...
Usé el siguiente código R para ajustar un modelo probit: p1 <- glm(natijeh ~ ., family=binomial(probit), data=data1) stepwise(p1, direction='backward/forward', criterion='BIC') ¿Quiero saber qué hace stepwisey qué hace backward/forwardexactamente y cómo seleccionar las
La documentación de R para cualquiera no arroja mucha luz. Todo lo que puedo obtener de este enlace es que usar cualquiera de los dos debería estar bien. Lo que no entiendo es por qué no son iguales. Hecho: La función de regresión gradual en R, step()usa extractAIC(). Curiosamente, ejecutar un...
En R, el stepcomando supuestamente tiene la intención de ayudarlo a seleccionar las variables de entrada para su modelo, ¿verdad? Lo siguiente viene de example(step)#-> swiss& step(lm1) > step(lm1) Start: AIC=190.69 Fertility ~ Agriculture + Examination + Education + Catholic +...