Prueba de razón de probabilidad logarítmica generalizada para modelos no anidados

Entiendo que si tengo dos modelos A y B y A está anidado en B, entonces, dados algunos datos, puedo ajustar los parámetros de A y B usando MLE y aplicar la prueba de razón de probabilidad logarítmica generalizada. En particular, la distribución de la prueba debe ser con grados de libertad, donde es la diferencia en el número de parámetros que y tienen. $\chi^2$ $n$ $n$ $A$ $B$

Sin embargo, ¿qué sucede si y tienen el mismo número de parámetros pero los modelos no están anidados? Es decir, son simplemente modelos diferentes. ¿Hay alguna manera de aplicar una prueba de razón de probabilidad o se puede hacer otra cosa? $A$ $B$

maximum-likelihood model-selection likelihood-ratio Lembik
fuente

Respuestas:

The paper Vuong, QH (1989). Las pruebas de razón de probabilidad para la selección del modelo y las hipótesis no anidadas. Econometrica, 307-333. tiene el tratamiento teórico completo y los procedimientos de prueba. Distingue entre tres situaciones, "Modelos estrictamente no anidados", "Modelos superpuestos", "Modelos anidados", y también examina casos de especificación errónea. Por lo tanto, no es casualidad que encuentre que, en algunos casos, el estadístico de prueba se distribuye como una combinación lineal de chi-cuadrados .

El documento no es ligero, ni propone un procedimiento de prueba "listo para usar". Pero, por una vez, sus (casi) 3.000 citas hablan de sus méritos, siendo una combinación inspirada del marco de prueba clásico y el enfoque teórico de la información.

Alecos Papadopoulos
fuente

La prueba de razón de probabilidad generalizada NO funciona de la manera que usted dice. Consulte, por ejemplo, las siguientes notas de clase:

http://www.maths.manchester.ac.uk/~peterf/MATH38062/MATH38062%20GLRT.pdf

http://www.maths.qmul.ac.uk/~bb/MS_Lectures_12b.pdf

El GLRT se define para hipótesis del tipo:

H_{0} : θ \in Θ_{0} v s . H_{1} : θ \in Θ_{1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

donde y . $\Theta_0\cap\Theta_1=\emptyset$ $\Theta_0\cup\Theta_1=\Theta$

Para el marco que describe, puede comparar los modelos utilizando otras herramientas como AIC y BIC. También factores de Bayes, si está dispuesto a ser Bayesiano completo.

Barquero
fuente

Bienvenido a CV. Quizás le interese buscar el documento que menciono en mi propia respuesta a esta pregunta.

Alecos Papadopoulos

@AlecosPapadopoulos Gracias por la referencia. Eché un vistazo rápido y, como era de esperar, las condiciones para que ese tipo de GLRT funcione son muy, muy, muy restrictivas. Entonces, preferiría ir por algo más seguro. Sé que es muy citado, disculpas por la blasfemia.

Waterman

@AlecosPapadopoulos En particular, considero que la compacidad de la condición de espacio de parámetros (Asunción A2) es extremadamente poco atractiva.

Waterman

La anécdota histórica muy instructiva (aunque probablemente no real) en torno a la obra maestra de Laplace es que Napoleón el Grande lo leyó y le comentó a Laplace "Veo que no mencionas a Dios en ninguna parte de tu libro", a lo que supuestamente Laplace respondió "No necesitaba esa hipótesis "... significa que el concepto de" sagrado "no es necesario en la ciencia, por lo que no puede haber blasfemia.

Alecos Papadopoulos

... en cuanto a su segundo comentario sobre la Asunción A2, supongo que significa que todo el marco de máxima verosimilitud no satisface las necesidades de su campo, excepto quizás cuando las distribuciones involucradas tienen densidades logarítmicas.

Alecos Papadopoulos