AIC significa el Criterio de información de Akaike, que es una técnica utilizada para seleccionar el mejor modelo de una clase de modelos utilizando una probabilidad penalizada. Una AIC más pequeña implica un mejor modelo.
El AIC y el BIC son métodos para evaluar el ajuste del modelo penalizado por el número de parámetros estimados. Según tengo entendido, BIC penaliza más a los modelos por parámetros libres que AIC. Más allá de una preferencia basada en la rigurosidad de los criterios, ¿hay alguna otra razón para...
Me gustaría implementar un algoritmo para la selección automática de modelos. Estoy pensando en hacer una regresión gradual, pero cualquier cosa servirá (aunque debe basarse en regresiones lineales). Mi problema es que no puedo encontrar una metodología o una implementación de código abierto...
En realidad estoy revisando un manuscrito donde los autores comparan modelos de regresión de 5-6 logit con AIC. Sin embargo, algunos de los modelos tienen términos de interacción sin incluir los términos covariables individuales. ¿Tiene sentido hacer esto? Por ejemplo (no específico para los...
Al responder a esta pregunta, John Christie sugirió que el ajuste de los modelos de regresión logística debería evaluarse evaluando los residuos. Estoy familiarizado con la forma de interpretar los residuos en OLS, están en la misma escala que el DV y muy claramente la diferencia entre y e y...
En P. 34 de su PRNN Brian Ripley comenta que "el AIC fue nombrado por Akaike (1974) como 'Un criterio de información', aunque parece que comúnmente se cree que el A significa Akaike". De hecho, al presentar la estadística AIC, Akaike (1974, p.719) explica que "IC stands for information criterion...
He calculado AIC y AICc para comparar dos modelos lineales mixtos generales; Los AIC son positivos con el modelo 1 que tiene un AIC más bajo que el modelo 2. Sin embargo, los valores para AICc son negativos (el modelo 1 sigue siendo <modelo 2). ¿Es válido usar y comparar valores negativos de...
He visto algunas preguntas aquí sobre lo que significa en términos simples, pero estas son demasiado simples para mi propósito aquí. Estoy tratando de entender matemáticamente qué significa el puntaje AIC. Pero al mismo tiempo, no quiero una prueba de rigor que me haga no ver los puntos más...
Normalmente uso BIC porque entiendo que valora más la parsimonia que AIC. Sin embargo, he decidido utilizar un enfoque más completo ahora y me gustaría utilizar AIC también. Sé que Raftery (1995) presentó buenas pautas para las diferencias BIC: 0-2 es débil, 2-4 es evidencia positiva de que un...
Quiero realizar una regresión logística con la siguiente respuesta binomial y con y como mis predictores. X1X1X_1X2X2X_2 Puedo presentar los mismos datos que las respuestas de Bernoulli en el siguiente formato. Las salidas de regresión logística para estos 2 conjuntos de datos son en su...
¿Es posible calcular los valores de AIC o BIC para los modelos de regresión de lazo y otros modelos regularizados donde los parámetros solo ingresan parcialmente la ecuación? ¿Cómo se determinan los grados de libertad? Estoy usando R para ajustar los modelos de regresión de lazo con la...
Explicaré mi problema con un ejemplo. Suponga que desea predecir el ingreso de un individuo dados algunos atributos: {Edad, Sexo, País, Región, Ciudad}. Tienes un conjunto de datos de entrenamiento como este train <- data.frame(CountryID=c(1,1,1,1, 2,2,2,2, 3,3,3,3), RegionID=c(1,1,1,2,...
El Criterio de información de Akaike (AIC) y el estadístico c (área bajo la curva ROC) son dos medidas de ajuste del modelo para la regresión logística. Tengo problemas para explicar lo que sucede cuando los resultados de las dos medidas no son consistentes. Supongo que miden aspectos ligeramente...
Estoy usando el AIC (Criterio de información de Akaike) para comparar modelos no lineales en R. ¿Es válido comparar los AIC de diferentes tipos de modelos? Específicamente, estoy comparando un modelo ajustado por glm versus un modelo con un término de efecto aleatorio ajustado por glmer (lme4). Si...
¿Cuáles son exactamente los requisitos previos que deben cumplirse para que funcione la comparación del modelo AIC? Acabo de responder esta pregunta cuando hice una comparación como esta: > uu0 = lm(log(usili) ~ rok) > uu1 = lm(usili ~ rok) > AIC(uu0) [1] 3192.14 > AIC(uu1) [1]...
En una pregunta en otra parte de este sitio, varias respuestas mencionaron que el AIC es equivalente a la validación cruzada de dejar uno fuera (LOO) y que el BIC es equivalente a la validación cruzada K-fold. ¿Hay alguna manera de demostrar esto empíricamente en R de modo que las técnicas...
Tengo un problema para aprovechar los beneficios de etiquetar un factor modelo como aleatorio por varias razones. Para mí, parece que en casi todos los casos la solución óptima es tratar todos los factores como fijos. Primero, la distinción entre fijo y aleatorio es bastante arbitraria. La...
Estoy buscando ejemplos de cómo interpretar las estimaciones de AIC (criterio de información de Akaike) y BIC (criterio de información bayesiano). ¿Se puede interpretar la diferencia negativa entre BIC como las probabilidades posteriores de un modelo sobre el otro? ¿Cómo puedo poner esto en...
Estoy interesado en la selección de modelos en una configuración de series de tiempo. Para concreción, supongamos que quiero seleccionar un modelo ARMA de un grupo de modelos ARMA con diferentes órdenes de retraso. La intención final es pronosticar . La selección del modelo puede hacerse...
Soy nuevo en esta cosa R pero no estoy seguro de qué modelo seleccionar. Hice una regresión progresiva hacia adelante seleccionando cada variable en función del AIC más bajo. Se me ocurrieron 3 modelos que no estoy seguro de cuál es el "mejor". Model 1: Var1 (p=0.03) AIC=14.978 Model 2: Var1...
¿Cómo se comparan normalmente los modelos de efectos mixtos (lineales) entre sí? Sé que se pueden usar pruebas de razón de probabilidad, pero esto no funciona si un modelo no es un 'subconjunto' del otro ¿correcto? ¿La estimación de los modelos df es siempre sencilla? ¿Número de efectos fijos +...