Sobre la existencia de UMVUE y la elección del estimador de

Let ser una muestra aleatoria extraída de población donde . $(X_1,X_2,\cdots,X_n)$ $\mathcal N(\theta,\theta^2)$ $\theta\in\mathbb R$

Estoy buscando el UMVUE de . $\theta$

La densidad conjunta de es $(X_1,X_2,\cdots,X_n)$

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \prod_{i = 1}^{n} \frac{1}{θ \sqrt{2 π}} \exp [- \frac{1}{2 θ^{2}} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [- \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [\frac{1}{θ} \sum_{i = 1}^{n} x_{i} - \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} x_{i}^{2} - \frac{n}{2}] \\ = g (θ, T (x)) h (x) \forall (x_{1}, \dots, x_{n}) \in R^{n}, \forall θ \in R \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\cdots,x_n)&=\prod_{i=1}^n\frac{1}{\theta\sqrt{2\pi}}\exp\left[-\frac{1}{2\theta^2}(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[-\frac{1}{2\theta^2}\sum_{i=1}^n(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right] \\&=g(\theta,T(\mathbf x))h(\mathbf x)\qquad\forall\,(x_1,\cdots,x_n)\in\mathbb R^n\,,\forall\,\theta\in\mathbb R \end{align}$

, donde y. $g(\theta, T(\mathbf x))=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right]$ $h(\mathbf x)=1$

Aquí, depende de y de hasta y es independiente de . Entonces, según el teorema de factorización de Fisher-Neyman, el estadístico bidimensional $g$ $\theta$ $x_1,\cdots,x_n$ $T(\mathbf x)=\left(\sum_{i=1}^nx_i,\sum_{i=1}^nx_i^2\right)$ $h$ $\theta$ es suficiente para. $T(\mathbf X)=\left(\sum_{i=1}^nX_i,\sum_{i=1}^nX_i^2\right)$ $\theta$

Sin embargo, no es una estadística completa. Esto es porque $T$

E_{θ} [2 {(\sum_{i = 1}^{n} X_{i})}^{2} - (n + 1) \sum_{i = 1}^{n} X_{i}^{2}] = 2 n (1 + n) θ^{2} - (n + 1) 2 n θ^{2} = 0 \forall θ

$E_{\theta}\left[2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2\right]=2n(1+n)\theta^2-(n+1)2n\theta^2=0\qquad\forall\,\theta$

y la función no es idénticamente cero. $g^*(T(\mathbf X))=2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2$

Pero sí sé que es una estadística mínima suficiente. $T$

No estoy seguro, pero creo que una estadística completa puede no existir para esta familia exponencial curva. Entonces, ¿cómo debo obtener el UMVUE? Si no existe una estadística completa, ¿puede un estimador imparcial (como en este caso) que es una función de estadística mínima suficiente ser el UMVUE? ( Tema relacionado: ¿Cuál es la condición necesaria para que un estimador imparcial sea UMVUE? ) $\bar X$

¿Qué sucede si considero el mejor estimador imparcial lineal (AZUL) de ? ¿Puede el AZUL ser el UMVUE? $\theta$

Suponga que considero el estimador lineal imparcial de donde $T^*(\mathbf X)=a\bar X+(1-a)cS$ $\theta$ y $c(n)=\sqrt{\frac{n-1}{2}}\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}$ . Como sabemos que. Mi idea es minimizarpara quesea el AZUL de. Wouldser entonces el UMVUE de? $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2$ $E_{\theta}(cS)=\theta$ $\text{Var}(T^*)$ $T^*$ $\theta$ $T^*$ $\theta$

He tomado un estimador imparcial lineal basado en y ya que también es suficiente para . $\bar X$ $S$ $(\bar X,S^2)$ $\theta$

Editar:

Una gran cantidad de trabajo hecho se ha hecho en la estimación de en el más general familia en la que se conoce. Las siguientes son algunas de las referencias más relevantes: $\theta$ $\mathcal N(\theta,a\theta^2)$ $a>0$

Estimación de la media de una distribución normal con coeficiente de variación conocido por Gleser / Healy.
Una nota sobre la estimación de la media de una distribución normal con coeficiente de variación conocido por RA Khan.
Una observación sobre la estimación de la media de una distribución normal con coeficiente de variación conocido por RA Khan.
Extracto de este capítulo.

Encontré la primera de estas referencias en este ejercicio de Inferencia estadística de Casella / Berger:

Sin embargo, mi pregunta no es sobre este ejercicio.

$\theta$

Ahora, suponiendo que no exista un estimador imparcial uniformemente de varianza mínima, ¿cuál debería ser nuestro próximo criterio para elegir el 'mejor' estimador? ¿Buscamos el MSE mínimo, la varianza mínima o el MLE? ¿O la elección de criterios dependerá de nuestro propósito de estimación?

$T_1$ $T_2$ $\theta$ $T_1$ $T_2$ $T_2$ $T_1$

$\theta$

El siguiente extracto es de la Teoría de la estimación puntual de Lehmann / Casella (segunda edición, páginas 87-88):

Es muy probable que haya entendido mal todo, pero ¿la última oración dice que, bajo ciertas condiciones, la existencia de una estadística completa es necesaria para la existencia de UMVUE? Si es así, ¿es este el resultado que debería mirar?

El último resultado debido a RR Bahadur, que se menciona al final, se refiere a esta nota.

Tras una búsqueda adicional, encontré un resultado que indica que si la estadística mínima suficiente no está completa, entonces no existe una estadística completa. Así que al menos estoy bastante convencido de que aquí no existe una estadística completa.

$\bar X$

mathematical-statistics normal-distribution estimation inference umvue ObstinadoAtom
fuente

Actualizar:

\hat{0} = \bar{X} - c S

$\hat 0 = \bar{X} - cS$

c

$c$

0

$0$

a

$a$

El teorema 6.2.25 de C&B muestra cómo encontrar estadísticas completas suficientes para la familia exponencial siempre que contenga un conjunto abierto en

{(w_{1} (θ), \dots w_{k} (θ)}

$\{(w_1(\theta), \cdots w_k(\theta)\}$

R^{k}

$\mathbb R^k$

w_{1} (θ) = θ^{- 2}

$w_1(\theta) = \theta^{-2}$

w_{2} (θ) = θ^{- 1}

$w_2(\theta) = \theta^{-1}$

R^{2}

$R^2$

w_{1} (θ) = w_{2} (θ)^{2}

$w_1(\theta) = w_2(\theta)^2$

(\bar{X}, S^{2})

$(\bar{X}, S^2)$

θ

$\theta$

0

$0$

θ

$\theta$

Otra actualización:

$\tilde\theta$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta \in \Theta$

$E(\hat\theta) = \theta$ $E(\hat 0) = 0$ $Cov(\hat\theta, \hat 0) < 0$ $\theta$

\tilde{θ} = \hat{θ} + b \hat{0}

$\tilde\theta = \hat\theta + b\hat0$

V a r (\tilde{θ}) = V a r (\hat{θ}) + b^{2} V a r (\hat{0}) + 2 b C o v (\hat{θ}, \hat{0})

$Var(\tilde\theta) = Var(\hat\theta) + b^2Var(\hat0) + 2bCov(\hat\theta,\hat0)$

M (θ) = \frac{- 2 C o v (\hat{θ}, \hat{0})}{V a r (\hat{0})}

$M(\theta) = \frac{-2Cov(\hat\theta, \hat0)}{Var(\hat0)}$

$\theta_0$ $M(\theta_0) > 0$ $b \in (0, M(\theta_0))$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta_0$ $\hat\theta$ $\quad \square$

$\hat\theta$ $\hat0$ $a$ $\hat\theta$ $\theta_0$ $\hat\theta$

Veamos su idea de combinaciones lineales más de cerca.

\hat{θ} = a \bar{X} + (1 - a) c S

$\hat\theta = a \bar X + (1-a)cS$

$\hat\theta$

\begin{aligned} M S E (\hat{θ}) & = a^{2} V a r (\bar{X}) + (1 - a)^{2} c^{2} V a r (S) \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [E (S^{2}) - E (S)^{2}] \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [θ^{2} - θ^{2} / c^{2}] \\ = θ^{2} [\frac{a^{2}}{n} + (1 - a)^{2} (c^{2} - 1)] \end{aligned}

$\begin{align*} MSE(\hat\theta) &= a^2 Var(\bar{X}) + (1-a)^2 c^2 Var(S) \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[E(S^2) - E(S)^2\right] \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[\theta^2 - \theta^2/c^2\right] \\ &= \theta^2\left[\frac{a^2}{n} + (1-a)^2(c^2 - 1)\right] \end{align*}$

$a$ $n$

a_{o p t} (n) = \frac{c^{2} - 1}{1 / n + c^{2} - 1}

$a_{opt}(n) = \frac{c^2 - 1}{1/n + c^2 - 1}$

c^{2} = \frac{n - 1}{2} {(\frac{Γ ((n - 1) / 2)}{Γ (n / 2)})}^{2}

$c^2 = \frac{n-1}{2}\left(\frac{\Gamma((n-1)/2)}{\Gamma(n/2)}\right)^2$

$a$

$n\rightarrow \infty$ $a_{opt}\rightarrow \frac{1}{3}$

Si bien no hay garantía de que este sea el UMVUE, este estimador es el estimador de varianza mínima de todas las combinaciones lineales imparciales de las estadísticas suficientes.

Knrumsey
fuente

Gracias por la actualización. No seguí a C&B como libro de texto, solo miré los ejercicios.

StubbornAtom

\hat{θ}

$\hat\theta$

Sobre la existencia de UMVUE y la elección del estimador de

Respuestas:

Actualizar:

Otra actualización: