Información de Fisher observada bajo una transformación

De "En toda probabilidad: modelado estadístico e inferencia usando probabilidad" por Y. Pawitan, la probabilidad de una nueva parametrización se define como modo que si es uno a uno, entonces (p. 45). Estoy tratando de mostrar el ejercicio 2.20 que establece que si es escalar (y presumo que se supone que es una función escalar), entonces donde $\theta\mapsto g(\theta)=\psi$

L^{*} (ψ) = max_{{θ : g (θ) = ψ}} L (θ)

$L^*(\psi)=\max_{\{\theta:g(\theta)=\psi\}} L(\theta)$

g

$g$

L^{*} (ψ) = L (g^{- 1} (ψ))

$L^*(\psi)=L(g^{-1}(\psi))$

θ

$\theta$

g

$g$

I^{*} (g (\hat{θ})) = I (\hat{θ}) {| \frac{\partial g (\hat{θ})}{\partial \hat{θ}} |}^{- 2},

$I^*(g(\hat{\theta}))=I(\hat{\theta})\left|\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}\right|^{-2},$

I (θ) = - \frac{\partial^{2}}{\partial θ^{2}} l (θ)

$I(\theta)=-\frac{\partial^2}{\partial\theta^2} l(\theta)$ es la información de Fisher observada y

l (θ) = \log L (θ)

$l(\theta)=\log L(\theta)$ .

Si $g$ es uno a uno, esto es sencillo utilizando la regla de la cadena y el principio de invariancia. Me pregunto algunas cosas:

¿Por qué insiste en escribir el valor absoluto? Esto podría quedar fuera, ¿verdad?
Por $\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}$ se refiere a la función $\frac{\partial g(\theta)}{\partial \theta}$ evaluada en $\theta=\hat{\theta}$ , ¿verdad? Si este es el caso, ¿no es una mala elección de notación? Creo que la notación abreviada habitual para este mundo sería $\frac{\partial g(\hat{\theta})}{\partial \theta}$ .
¿Cómo se muestra esto cuando $g$ no es necesariamente uno a uno?

mathematical-statistics inference likelihood fisher-information Stefan Hansen
fuente

El valor absoluto es innecesario. Puede ser solo un error tipográfico.
Estás en lo correcto. Una notación aún mejor sería . $\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}$
No se sostiene en general. algunos y defina por . Los rhs estarían indefinidos ya que la derivada es cero para cada . $\psi_0$ $g:\mathbb{R}\to\mathbb{R}$ $g(\theta)=\psi_0$ $\theta$

Un bosquejo del caso regular:

Para suavizar una a una con . Como , tenemos Por lo tanto, $g$ $\psi=g(\theta)$ $d/d\psi = d\theta/d\psi\cdot d/d\theta$

\begin{aligned} I^{*} (ψ) & = - \frac{d^{2} L^{*} (ψ)}{d ψ^{2}} = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d ψ}) = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d θ} \frac{d θ}{d ψ}) \\ = - \frac{d^{2} L^{*} (ψ)}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (ψ)}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} . \end{aligned}

$\begin{align} I^*(\psi) &= -\frac{d^2L^*(\psi)}{d\psi^2} = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\psi} \right) = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\theta} \frac{d\theta}{d\psi}\right) \\ &= - \frac{d^2L^*(\psi)}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(\psi)}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi}\, . \end{align}$

\begin{aligned} I^{*} (g (\hat{θ})) & = - \frac{d^{2} L^{*} (g (\hat{θ}))}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (g (\hat{θ}))}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} \\ = - \frac{d^{2} L (g^{- 1} (g (\hat{θ})))}{d θ^{2}} {(\frac{d g (θ)}{d θ} |_{θ = g^{- 1} (g (\hat{θ}))})}^{- 2} - \frac{d L (g^{- 1} (g (\hat{θ})))}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} \\ = I (\hat{θ}) {(\frac{d g (θ)}{d θ} |_{θ = \hat{θ}})}^{- 2}, \end{aligned}

$\begin{align} I^*(g(\hat{\theta})) &= -\frac{d^2L^*(g(\hat{\theta}))}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(g(\hat{\theta}))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= -\frac{d^2L(g^{-1}(g(\hat{\theta})))}{d\theta^2} \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=g^{-1}(g(\hat{\theta}))}\right)^{-2} - \frac{dL(g^{-1}(g(\hat{\theta})))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= I(\hat{\theta}) \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}\right)^{-2} \, , \end{align}$ en el que usamos .

d L (g^{- 1} (g (\hat{θ}))) / d θ = d L (\hat{θ}) / d θ = 0

$dL(g^{-1}(g(\hat{\theta})))/d\theta=dL(\hat{\theta})/d\theta=0$

zen
fuente

Gracias por abordar todas mis dudas y por ese simple contraejemplo con constante . Su bosquejo del caso regular es similar a lo que he hecho, así que todo está bien. Gracias.

g

$g$

Stefan Hansen

Información de Fisher observada bajo una transformación

Respuestas: