Estimador de máxima verosimilitud para la distribución binomial negativa

La pregunta es la siguiente:

Se recoge una muestra aleatoria de n valores de una distribución binomial negativa con el parámetro k = 3.

Encuentre el estimador de máxima verosimilitud del parámetro π.

Encuentre una fórmula asintótica para el error estándar de este estimador.

Explique por qué la distribución binomial negativa será aproximadamente normal si el parámetro k es lo suficientemente grande. ¿Cuáles son los parámetros de esta aproximación normal?

Mi trabajo ha sido el siguiente:
1. Siento que esto es lo que se desea, pero no estoy seguro de si soy exacto aquí o si posiblemente puedo llevar esto más lejos, dada la información proporcionada.

pag (X) = (\binom{X - 1}{k - 1}) π^{k} (1 - π)^{X - k} L (π) = Π_{yo}^{norte} pag (X_{norte} El | π) ℓ (π) = Σ_{yo}^{norte} En (pag (X_{norte} El | π)) ℓ' (π) = Σ_{yo}^{norte} \frac{k}{π} - \frac{(X - k)}{(1 - π)}

$p(x) = {x-1 \choose k-1}\pi^k(1-\pi)^{x-k}\\ L(\pi) = \Pi_i^n p(x_n|\pi)\\ \ell(\pi) = \Sigma_i^n\ln(p(x_n|\pi))\\ \ell`(\pi) = \Sigma_i^n\dfrac{k}{\pi}-\dfrac{(x-k)}{(1-\pi)}$

Creo que lo siguiente es lo que se pide. Para la parte final Siento que tengo que sustituir con $\hat{\pi}$ $\dfrac{k}{x}$
$ℓ'' (\hat{π}) = - \frac{k}{{\hat{π}}^{2}} + \frac{X}{(1 - \hat{π})^{2}} s mi (\hat{π}) = \sqrt{- \frac{1}{ℓ'' (\hat{π})}} s mi (\hat{π}) = \sqrt{\frac{{\hat{π}}^{2}}{k} - \frac{(1 - \hat{π})^{2}}{X}}$ $\ell``(\hat{\pi}) = -\dfrac{k}{\hat{\pi}^2} + \dfrac{x}{(1-\hat{\pi})^2}\\ se(\hat{\pi}) = \sqrt{-\dfrac{1}{\ell``(\hat{\pi})}}\\ se(\hat{\pi}) = \sqrt{\dfrac{\hat{\pi}^2}{k} - \dfrac{(1-\hat{\pi})^2}{x}}\\$
No estoy realmente seguro de cómo probarlo y todavía lo estoy investigando. Cualquier sugerencia o enlaces útiles serán muy apreciados. Siento que está relacionado con el hecho de que una distribución binomial negativa puede verse como una colección de distribuciones geométricas o lo inverso de una distribución binomial, pero no estoy seguro de cómo abordarla.

Cualquier ayuda sería muy apreciada

self-study maximum-likelihood negative-binomial Syzorr
fuente

(1) para encontrar la estimación de máxima probabilidad

es necesario encontrar donde la función de probabilidad logarítmica alcanza su máximo. Calcular el puntaje (la primera derivada de la función log-verosimilitud con respecto a

) es un comienzo: ¿qué valor tomará esto al máximo? (Y recuerda que no necesitas estimar

\hat{π}

$\hat \pi$

π

$\pi$

k

$k$

Scortchi - Restablece a Monica

Olvidé agregar la derivada de log-likelihood = 0 con el propósito de calcular el máximo. Si he calculado esto correctamente (he estado trabajando en ello desde la publicación), lo que tengo es

\frac{k}{π} - \frac{Σ_{i = 0}^{n} (x_{i} - k)}{(1 - π)} = 0

$\dfrac{k}{\pi}-\dfrac{\Sigma_{i=0}^n(x_i-k)}{(1-\pi)} = 0$

Syzorr

Tenga cuidado:

También tenga en cuenta que

comienza en 1.

\sum_{i = 1}^{n} \frac{k}{π} - \sum_{i = 1}^{n} \frac{(x_{i} - k)}{(1 - π)} = ?

$\sum_{i=1}^n \frac{k}{\pi} - \sum_{i=1}^n{\frac{(x_i-k)}{(1-\pi)}} = \ ?$

i

$i$

Scortchi - Restablecer Mónica

En (2), rara vez ocurre que el recíproco de una diferencia sea la diferencia de los recíprocos. Este error enorme afecta a su fórmula final para

s e (\hat{π})

$se(\hat\pi)$

whuber

Respuestas:

$p(x) = {x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}$

$L(\pi;x_i) = \prod_{i=1}^{n}{x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}\\$

$\ell(\pi;x_i) = \sum_{i=1}^{n}[log{x_i-1 \choose k-1}+klog(\pi)+(x_i-k)log(1-\pi)]\\ \frac{d\ell(\pi;x_i)}{d\pi} = \sum_{i=1}^{n}[\dfrac{k}{\pi}-\dfrac{(x_i-k)}{(1-\pi)}]$

Ponlo a cero,

$\frac{nk}{\pi}=\frac{\sum_{i=1}^nx_i-nk}{1-\pi}$

$\therefore$ $\hat\pi=\frac{nk}{\sum_{i=1}^nx}$

Para la segunda parte, debes usar el teorema de que ,es la información del pescador aquí. Por lo tanto, la desviación estándar de la será. O lo llama como error estándar ya que usa CLT aquí. $\sqrt{n}(\hat\theta-\theta) \overset{D}{\rightarrow}N(0,\frac{1}{I(\theta)})$ $I(\theta)$ $\hat\theta$ $[nI(\theta)]^{-1/2}$

Entonces necesitamos calcular la información de Fisher para la distribución binomial negativa.

$\frac{\partial^2 \log(P(x;\pi))}{\partial\pi^2}=-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2}$

$I(\theta)=-E(-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2})=\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi}$

Nota: para el binomio negativo pmf $E(x) =\frac{k}{\pi}$

Por lo tanto, el error estándar para es $\hat \pi$ $[n(\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi})]^{-1/2}$

Simplificamos obtenemos obtenemos $se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

La distribución geométrica es un caso especial de distribución binomial negativa cuando k = 1. Nota es una distribución geométrica $\pi(1-\pi)^{x-1}$

Por lo tanto, la variable binomial negativa se puede escribir como una suma de k variables aleatorias independientes (geométricas) distribuidas idénticamente.

Entonces, por CLT, la distribución binomial negativa será aproximadamente normal si el parámetro k es lo suficientemente grande

Norte profundo
fuente

Lea ¿Qué temas puedo preguntar aquí? sobre preguntas de autoaprendizaje: en lugar de hacer la tarea de la gente por ellos, tratamos de ayudarlos a hacerlo ellos mismos.

Scortchi - Restablece a Monica

Usted no necesita tener en cuenta el tamaño de la muestra

en el cálculo de la MLE. Puede estar confundiendo una cuenta de

observaciones independientes, cada una de las no. de ensayos requeridos para alcanzar

fallas (

) con una cuenta de una sola observación del no. de ensayos necesarios para alcanzar

fallas (

). El primero da una probabilidad de

n

$n$

n

$n$

k

$k$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

k

$k$

n

$n$

\sum_{i = 1}^{n} π^{(} 1 - π)^{x_{i} - k}

$\sum_{i=1}^n{\pi^(1-\pi)^{x_i-k}}$ ; el último,

π^{k} (1 - π)^{n - k}

$\pi^k(1-\pi)^{n-k}$

Scortchi - Restablece a Monica

Tienes razón, siempre soy confuso en esta parte. Muchas gracias. También hago muchas preguntas en este foro, pero realmente espero que la gente pueda darme una respuesta muy detallada, luego puedo estudiarlo yo mismo paso a paso.

Deep North

Si. Entiendo por qué la regla en contra de proporcionar demasiados detalles, pero esta respuesta combinada con mis propias notas de la conferencia me ha permitido atar muchos de los cabos sueltos. Tengo la intención de ir y hablar con mi profesor hoy sobre esto para que pueda obtener una aclaración de él. Es viernes aquí ahora. Asignación debida el lunes como se indicó anteriormente. Aprendimos esto el miércoles y solo tenemos un solo ejemplo usando una distribución binomial. Muchas gracias por el detalle.

Syzorr

s e (π) = \sqrt{\frac{π^{2} (π - 1)}{k n}}

$se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$