Deje . La matriz de información de Fisher se define como:
¿Cómo puedo demostrar que la matriz de información de Fisher es semidefinida positiva?
Deje . La matriz de información de Fisher se define como:
¿Cómo puedo demostrar que la matriz de información de Fisher es semidefinida positiva?
Respuestas:
Mira esto: http://en.wikipedia.org/wiki/Fisher_information#Matrix_form
De la definición, tenemos
Para un vector no nulo , se deduce de la linealidad de la expectativa queu = ( u1, ... , uk)⊤∈ Rnorte ∑i , j = 1ktuyoyoyo jtuj= ∑i , j = 1k( uyomiθ[ ( ∂yoIniciar sesiónFX∣ Θ( X∣ θ ) ) ( ∂jIniciar sesiónFX∣ Θ( X∣ θ ) ) ] uj)= Eθ[ ( ∑i = 1ktuyo∂yoIniciar sesiónFX∣ Θ( X∣ θ ) ) ( ∑j = 1ktuj∂jIniciar sesiónFX∣ Θ( X∣ θ ) ) ]= Eθ⎡⎣( ∑i = 1ktuyo∂yoIniciar sesiónFX∣ Θ( X∣ θ ) )2⎤⎦≥ 0.
Si esta notación inteligente de componentes es demasiado fea, tenga en cuenta que la matriz de información de Fisher puede escribirse como , en la que el vector de puntuaciones se define comoH= ( Iyo j) H= Eθ[ SS⊤] S S= ( ∂1Iniciar sesiónFX∣ Θ( X∣ θ ) , ... , ∂kIniciar sesiónFX∣ Θ( X∣ θ ) )⊤.
Por lo tanto, tenemos una líneatu⊤Hu = u⊤miθ[ SS⊤] u = Eθ[ u⊤SS⊤u ] = Eθ[ | El | S⊤u | El |2] ≥0.
fuente
ADVERTENCIA: no es una respuesta general!
Si corresponde a una familia exponencial de rango completo, entonces la arpillera negativa del log-verosimilitud es la matriz de covarianza de la estadística suficiente. Las matrices de covarianza son siempre semi-definidas positivas. Dado que la información de Fisher es una combinación convexa de matrices semi-definidas positivas, también debe ser semi-definida positiva.F( XEl | θ)
fuente