BIC es un acrónimo de Criterio de información bayesiano. BIC es un método de comparación de modelos. Ver también AIC
El AIC y el BIC son métodos para evaluar el ajuste del modelo penalizado por el número de parámetros estimados. Según tengo entendido, BIC penaliza más a los modelos por parámetros libres que AIC. Más allá de una preferencia basada en la rigurosidad de los criterios, ¿hay alguna otra razón para...
En P. 34 de su PRNN Brian Ripley comenta que "el AIC fue nombrado por Akaike (1974) como 'Un criterio de información', aunque parece que comúnmente se cree que el A significa Akaike". De hecho, al presentar la estadística AIC, Akaike (1974, p.719) explica que "IC stands for information criterion...
Normalmente uso BIC porque entiendo que valora más la parsimonia que AIC. Sin embargo, he decidido utilizar un enfoque más completo ahora y me gustaría utilizar AIC también. Sé que Raftery (1995) presentó buenas pautas para las diferencias BIC: 0-2 es débil, 2-4 es evidencia positiva de que un...
¿Es posible calcular los valores de AIC o BIC para los modelos de regresión de lazo y otros modelos regularizados donde los parámetros solo ingresan parcialmente la ecuación? ¿Cómo se determinan los grados de libertad? Estoy usando R para ajustar los modelos de regresión de lazo con la...
Explicaré mi problema con un ejemplo. Suponga que desea predecir el ingreso de un individuo dados algunos atributos: {Edad, Sexo, País, Región, Ciudad}. Tienes un conjunto de datos de entrenamiento como este train <- data.frame(CountryID=c(1,1,1,1, 2,2,2,2, 3,3,3,3), RegionID=c(1,1,1,2,...
En una pregunta en otra parte de este sitio, varias respuestas mencionaron que el AIC es equivalente a la validación cruzada de dejar uno fuera (LOO) y que el BIC es equivalente a la validación cruzada K-fold. ¿Hay alguna manera de demostrar esto empíricamente en R de modo que las técnicas...
Estoy buscando ejemplos de cómo interpretar las estimaciones de AIC (criterio de información de Akaike) y BIC (criterio de información bayesiano). ¿Se puede interpretar la diferencia negativa entre BIC como las probabilidades posteriores de un modelo sobre el otro? ¿Cómo puedo poner esto en...
Después de leer "Explicar o predecir " de Galit Shmueli (2010), me sorprende una aparente contradicción. Hay tres premisas, Elección del modelo basado en AIC versus BIC (final de p. 300 - comienzo de p. 301): simplemente, AIC debe usarse para seleccionar un modelo destinado a predicción, mientras...
Esta pregunta es un seguimiento o intento de aclarar la posible confusión con respecto a un tema que yo y muchos otros encontramos un poco difícil, con respecto a la diferencia entre AIC y BIC. En una muy buena respuesta de @Dave Kellen sobre este tema ( /stats//a/767/30589 ) leemos: Su pregunta...
(Esta pregunta puede parecer más adecuada para la Filosofía SE. Espero que los estadísticos puedan aclarar mis ideas erróneas sobre las declaraciones de Box y Shmueli, por lo tanto, la estoy publicando aquí). George Box (de la fama de ARIMA) dijo: "Todos los modelos están equivocados, pero...
Estoy aprendiendo sobre splines del libro "Los elementos de la minería de datos estadísticos de aprendizaje, inferencia y predicción" de Hastie et al. En la página 145 descubrí que las estrías cúbicas naturales son lineales más allá de los nudos de límite. Hay KKK nudos, en las splines y se da lo...
Acabo de encontrarme con el "criterio de información de Akaike", y noté esta gran cantidad de literatura sobre la selección de modelos (también parecen existir cosas como BIC). ¿Por qué los métodos modernos de aprendizaje automático no aprovechan estos criterios de selección de modelos BIC y...
Estoy analizando un conjunto de datos utilizando un modelo de efectos mixtos con un efecto fijo (condición) y dos efectos aleatorios (participante debido al diseño del sujeto y al par). El modelo se ha generado con el lme4paquete:
Mi comprensión general es que AIC trata con el equilibrio entre la bondad de ajuste del modelo y la complejidad del modelo. Un yoC= 2 k - 2 l n ( L )UNyoC=2k-2lnorte(L)AIC =2k -2ln(L) kkk = número de parámetros en el modelo LLL = probabilidad El criterio de información bayesiano BIC está...
Digamos que tengo un problema de selección de modelo y estoy tratando de usar AIC o BIC para evaluar los modelos. Esto es sencillo para los modelos que tienen algún número de parámetros con valores reales.kkk Sin embargo, ¿qué sucede si uno de nuestros modelos (por ejemplo, el modelo Mallows )...
Actualmente estoy tratando de calcular el BIC para mi conjunto de datos de juguete (ofc iris (:). Quiero reproducir los resultados como se muestra aquí (Fig. 5). Ese documento también es mi fuente para las fórmulas de BIC. Tengo 2 problemas con esto: Notación: ninin_i = número de elementos en...
Entonces entiendo que la selección de variables es parte de la selección del modelo. Pero, ¿en qué consiste exactamente la selección del modelo? ¿Es más que lo siguiente: 1) elige una distribución para tu modelo 2) elegir variables explicativas,? Pregunto esto porque estoy leyendo un artículo de...
Tengo un conjunto de datos de series temporales en el que estoy tratando de ajustar un Modelo de Markov Oculto (HMM) para estimar el número de estados latentes en los datos. Mi pseudo código para hacer esto es el siguiente: for( i in 2 : max_number_of_states ){ ... calculate HMM with i states...
Estoy realizando un modelo de regresión de Poisson con 1 variable de respuesta y 6 covariables. La selección del modelo usando AIC da como resultado un modelo con todas las covariables, así como 6 términos de interacción. Sin embargo, el BIC da como resultado un modelo con solo 2 covariables y sin...
Quiero usar BIC para la selección del modelo HMM: BIC = -2*logLike + num_of_params * log(num_of_data) Entonces, ¿cómo cuento el número de parámetros en el modelo HMM? Considere un simple HMM de 2 estados, donde tenemos los siguientes datos: data = [1 2 1 1 2 2 2 1 2 3 3 2 3 2 1 2 2 3 4 5 5 3 3...