Distribución del coeficiente de regresión recíproco

Supongamos que tenemos un modelo lineal que cumple con todos los supuestos de regresión estándar (Gauss-Markov). Estamos interesados en . $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ $\theta = 1/\beta_1$

Pregunta 1: ¿Qué supuestos son necesarios para que la distribución de esté bien definida? sería importante --- ¿algún otro? $\hat{\theta}$ $\beta_1 \neq 0$

Pregunta 2: Agregue el supuesto de que los errores siguen una distribución normal. Sabemos que, si es el MLE es una función monotónica, entonces es el MLE para . ¿La monotonicidad solo es necesaria en el vecindario de ? En otras palabras, ¿es el MLE? El teorema de mapeo continuo al menos nos dice que este parámetro es consistente. $\hat{\beta}_1$ $g(\cdot)$ $g\left(\hat{\beta}_1\right)$ $g(\beta_1)$ $\beta_1$ $\hat{\theta} = 1/\hat{\beta}$

Pregunta 3: ¿Tanto el Método Delta como el bootstrap son medios apropiados para encontrar la distribución de ? $\hat{\theta}$

Pregunta 4: ¿Cómo cambian estas respuestas para el parámetro ? $\gamma = \beta_0 / \beta_1$

Aparte: podríamos considerar reorganizar el problema para dar para estimar los parámetros directamente. Esto no parece funcionar para mí, ya que las suposiciones de Gauss-Markov ya no tienen sentido aquí; no podemos hablar de , por ejemplo. ¿Es correcta esta interpretación?

\begin{aligned} x_{i} & = \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} y_{i} + \frac{1}{β_{1}} ϵ_{i} \\ = γ + θ y_{i} + \frac{1}{β_{1}} ϵ_{i} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$

regression distributions maximum-likelihood bootstrap Charlie
fuente

¿Los supuestos "estándar" incluyen la Normalidad de o no?

ϵ_{i}

$\epsilon_i$

whuber

Buen punto; Agregué esa suposición a la parte sobre el MLE. Sin embargo, no debería ser necesario para los demás.

Charlie

La distribución de muestreo de es normal, por lo que la de es recíproca de una normal. Esto es bimodal con una media divergente (infinita), no importa cuál sea la media de , y es infinitamente plana en 0. El método Delta será, por lo tanto, horrible, las aproximaciones asintóticas habituales de MLE serán pobres, e incluso el bootstrap puede ser sospechoso

β_{1}

$\beta_1$

θ

$\theta$

β_{1}

$\beta_1$

whuber

@whuber, ¿podría ampliar eso? Mi intuición no ve cómo el recíproco de una normalidad debería ser bimodal; supongo que toda la masa estaría en el recíproco de la media de lo normal (aquí, ). Estaba preocupado por la posibilidad media infinita debido a la masa cercana a 0. Los resultados de arranque y asintóticos requieren la existencia de los momentos estimados, por lo que en última instancia depende de esta pregunta.

1 / {\hat{β}}_{1}

$1/\hat{\beta}_1$

Charlie

El PDF de una normal recíproca es . En 0 todas las derivadas son iguales a 0; encontrar puntos críticos de su logaritmo identifica un modo positivo y negativo (se calcula fácilmente en términos de y ); la integral dediverge como la integral de. El problema con los primeros momentos infinitos se asocia al recíproco de cualquier variable aleatoria que tenga densidad de probabilidad positiva en 0, que incluye todas las normales.

\exp (- (1 / x - μ)^{2} / (2 σ^{2})) / (\sqrt{2 π} x^{2} σ) d x

$\exp(-(1/x-\mu)^2/(2\sigma^2))/(\sqrt{2\pi}x^2\sigma)dx$

σ

$\sigma$

μ / σ

$\mu/\sigma$

| x |

$|x|$

| x | / x^{2} = 1 / | x |

$|x|/x^2=1/|x|$

whuber

Q1. Si es el MLE de , entonces es el MLE de y es una condición suficiente para que este estimador esté bien definido. $\hat\beta_1$ $\beta_1$ $\hat\theta$ $\theta$ $\beta_1 \neq 0$

Q2 es el MLE de por propiedad de invariancia del MLE. Además, no necesita la monotonicidad de si no necesita obtener su inversa. Solo es necesario que esté bien definido en cada punto. Puede verificar esto en el Teorema 7.2.1 págs. 350 de "Probabilidad e inferencia estadística" de Nitis Mukhopadhyay. $\hat\theta = 1/\hat\beta$ $\theta$ $g$ $g$

Q3. Sí, puede usar ambos métodos, también verificaría la probabilidad de perfil de . $\theta$

Q4. Aquí, puede volver a parametrizar el modelo en términos de los parámetros de interés . Por ejemplo, el MLE de es y puede calcular la probabilidad de perfil de este parámetro o su distribución de arranque como de costumbre. $(\theta,\gamma)$ $\gamma$ $\hat\gamma=\hat\beta_0/\hat\beta_1$

El enfoque que menciona al final es incorrecto, en realidad está considerando un "modelo de calibración" que puede verificar en la literatura. Lo único que necesita es reparameterise en términos de los parámetros de interés.

Espero que esto ayude.

Saludos cordiales.

XMX
fuente

Gracias por la respuesta. No tengo el libro que usted cita, pero a menudo estas propiedades requieren la existencia de los momentos que se estiman. No estoy seguro de que el recíproco de una normal tenga los momentos necesarios. Debería haber aclarado este punto en mi pregunta.

Charlie

Distribución del coeficiente de regresión recíproco

Respuestas: