¿Se enfatiza demasiado la teoría de la estimación imparcial de la varianza mínima en la escuela de posgrado?

18

Recientemente me sentí muy avergonzado cuando di una respuesta inesperada sobre las estimaciones imparciales de varianza mínima para los parámetros de una distribución uniforme que estaba completamente equivocado. Afortunadamente, el cardenal y Henry me corrigieron inmediatamente con Henry proporcionando las respuestas correctas para el OP .

Sin embargo, esto me hizo pensar. Aprendí la teoría de los mejores estimadores imparciales en mi clase de estadística matemática de posgrado en Stanford hace unos 37 años. Recuerdo el teorema de Rao-Blackwell, el límite inferior Cramer - Rao y el teorema de Lehmann-Scheffe. Pero como estadístico aplicado, no pienso mucho en los UMVUE en mi vida diaria, mientras que la estimación de máxima probabilidad surge mucho.

¿Porqué es eso? ¿Enfatizamos demasiado la teoría UMVUE en la escuela de posgrado? Creo que sí. En primer lugar, la imparcialidad no es una propiedad crucial. Muchos MLE perfectamente buenos son parciales. Los estimadores de contracción de Stein están sesgados pero dominan el MLE imparcial en términos de pérdida de error cuadrático medio. Es una teoría muy hermosa (estimación UMVUE), pero muy incompleta y creo que no es muy útil. ¿Qué piensan los demás?

Michael Chernick
fuente
55
(+1) Estoy de acuerdo en que esto sería una buena pregunta para el sitio principal y lo votará a favor. Es algo subjetivo, por lo que podría ser mejor como una pregunta de CW. (Además, no hay razón para avergonzarse).
Cardenal
2
No creo que, en general, este tipo de estimación esté demasiado enfatizado. Recuerdo que mis profesores solían centrarse más en ejemplos donde UMVUE son "tontos". Las personas tienden a usar estimadores puntuales que pertenecen a teorías populares, en aras de la seguridad, pero existe una teoría completa de la estimación de ecuaciones. Algunos profesores se centran en UMVUE porque son una buena fuente de problemas difíciles para la tarea. Creo que la reducción del sesgo es una teoría más popular y útil hoy en día que encontrar el UMVUE (que no siempre existe).
2
Vemos muchas preguntas aquí en UMVUE, supongo porque hacen buenos problemas de tarea. Tal vez esto sea más un problema con los programas de estadística de nivel de pregrado y maestría que con los programas de doctorado.
Michael R. Chernick
3
Bueno, la estimación UMVU es una idea clásica, ¿tal vez debería enseñarse por esa razón? ¡Y es un buen punto de partida para discutir / criticar criterios como la imparcialidad! Solo porque no se usan tanto en la práctica, en sí mismo no hay razón para no enseñarles.
kjetil b halvorsen
3
Es probable que el énfasis varíe según el tiempo y los departamentos. Mi departamento presenta el material en el curso de estadísticas de matemáticas del primer año, pero después de eso se ha ido, por lo que no podría decir razonablemente que está demasiado enfatizado (incluso en el curso de inferencia de doctorado, generalmente no se enseña, a favor de más tiempo con estimadores bayesianos y minimax, admisibilidad y estimación multivariada), aunque desearía que hubiera más énfasis en por qué el sesgo es algo útil y, por lo tanto, por qué la estimación imparcial es un paradigma innecesariamente extremo.
chico

Respuestas:

3

Lo sabemos

Si sea ​​una muestra aleatoria de entonces para cualquier es un UE deX1,X2,XnPoisson(λ)α(0,1), Tα=αX¯+(1α)S2λ

Por lo tanto, existe infinitamente muchos UE de . Ahora surge una pregunta, ¿ cuál de estos deberíamos elegir? entonces llamamos UMVUE. Además, la imparcialidad no es una buena propiedad, pero UMVUE es una buena propiedad. Pero no es extremadamente bueno.λ

Si sea ​​una muestra aleatoria de entonces el estimador MSE mínimo de la forma , con para el parámetro , es Pero está sesgado, es decir, no es UMVUE, aunque es mejor en términos de MSE mínimo.X1,X2,XnN(μ,σ2)Tα=αS2(n1)S2=i=1n(XiX¯)2σ2n1n+1S2=1n+1i=1n(XiX¯)2

Tenga en cuenta que el teorema de Rao-Blackwell dice que para encontrar UMVUE podemos concentrarnos solo en aquellos UE que son función de estadística suficiente, es decir, el UMVUE es el estimador que tiene una variación mínima entre todos los UE que son función de estadística suficiente. Por lo tanto, UMVUE es necesariamente una función de una estadística suficiente.

MLE y UMVUE son buenos desde un punto de vista. Pero nunca podemos decir que uno de ellos es mejor que otro. En estadística tratamos con datos inciertos y aleatorios. Por lo tanto, siempre hay margen de mejora. Podemos obtener un mejor estimador que MLE y UMVUE.

Creo que no enfatizamos demasiado la teoría UMVUE en la escuela de posgrado, es mi punto de vista personal. Creo que la etapa de graduación es una etapa de aprendizaje. Entonces, un estudiante graduado debe tener una buena base sobre UMVUE y otros estimadores,

Argha
fuente
1
Creo que cualquier teoría válida de inferencia es buena de conocer. Si bien la imparcialidad puede ser una buena propiedad, el sesgo no es necesariamente malo. Cuando se hace hincapié en los UMVUE, puede haber una tendencia a atribuirle "óptima". Pero puede que no haya muy buenos estimadores en la clase de estimadores imparciales. La precisión es importante e implica sesgo y varianza. Lo mejor del MLE es que hay condiciones bajo las cuales se puede demostrar que es asintóticamente eficiente.
Michael R. Chernick
Tenga en cuenta que el teorema de Rao-Blackwell también se puede utilizar para mejorar cualquier estimador sesgado, produciendo un estimador mejorado con el mismo sesgo.
kjetil b halvorsen
2

Quizás el artículo de Brad Efron "Teoría de la máxima probabilidad y decisión" pueda ayudar a aclarar esto. Brad mencionó que una dificultad principal con el UMVUE es que, en general, es difícil de calcular y, en muchos casos, no existe.

Jiantao Jiao
fuente