Selección de modelo no anidado

13

Tanto la prueba de razón de probabilidad como el AIC son herramientas para elegir entre dos modelos y ambos se basan en la probabilidad de registro.

Pero, ¿por qué la prueba de razón de probabilidad no se puede usar para elegir entre dos modelos no anidados, mientras que AIC sí?

usuario7064
fuente
Akaike mismo pensó que AIC era útil para comparar modelos no anidados. Vea su cita a la que hice referencia en respuesta a la publicación aquí .
JonesBC

Respuestas:

18

La prueba LR (razón de verosimilitud) en realidad está probando la hipótesis de que un subconjunto específico de los parámetros es igual a algunos valores preespecificados. En el caso de la selección del modelo, generalmente (pero no siempre) eso significa que algunos de los parámetros son iguales a cero. Si los modelos están anidados, los parámetros en el modelo más grande que no están en el modelo más pequeño son los que se están probando, con valores especificados implícitamente por su exclusión del modelo más pequeño. Si los modelos no están anidados, ya no está probando esto, porque AMBOS modelos tienen parámetros que no están en el otro modelo, por lo que la estadística de prueba LR no tiene el asintóticoχ2

AIC, por otro lado, no se usa para pruebas formales. Se utiliza para comparaciones informales de modelos con diferentes números de parámetros. El término de penalización en la expresión para AIC es lo que permite esta comparación. Pero no se hacen suposiciones sobre la forma funcional de la distribución asintótica de las diferencias entre el AIC de dos modelos no anidados al hacer la comparación del modelo, y la diferencia entre dos AIC no se trata como una estadística de prueba.

Agregaré que hay cierto desacuerdo sobre el uso de AIC con modelos no anidados, ya que la teoría se resuelve para modelos anidados. De ahí mi énfasis en "no ... formal" y "no ... prueba estadística". Lo uso para modelos no anidados, pero no de una manera rígida y rápida, más como una entrada importante, pero no la única, en el proceso de construcción del modelo.

jbowman
fuente
@Carl: la elaboración se encuentra en los dos comentarios inmediatamente anteriores al comentario que cita. Creo que deberías seguir el consejo de Gung: publicar una pregunta y responderla. Es justo hacer esto en estas circunstancias, y otros también lo han hecho de manera similar para las "preguntas de referencia". Habiendo revisado tu respuesta, la votaré.
jbowman
Tomé el consejo y nuevas preguntas y respuestas están aquí . Por cierto, voté por su pregunta (y la respuesta aceptada) porque me hizo pensar, y no porque estoy completamente de acuerdo con ella. Mi problema es que la suposición de que los modelos no anidados pueden ser comparados por AIC solo es cierto cuando se cumplen muchas otras condiciones generalmente ignoradas.
Carl
9

La derivación de AIC como estimador de la pérdida de información de Kullback-Leibler no hace suposiciones de modelos anidados.

David Anderson
fuente
1
Pero Akaike asumió que los modelos se estaban construyendo con los mismos datos.
DWin