Teorema del límite central para raíces cuadradas de sumas de variables aleatorias iid

Intrigado por una pregunta en math.stackexchange , e investigándolo empíricamente, me pregunto acerca de la siguiente declaración sobre la raíz cuadrada de sumas de variables aleatorias iid.

Supongamos que son variables aleatorias con media finita distinta de cero y varianza , y . El teorema del límite central dice medida que aumenta. $X_1, X_2, \ldots, X_n$ $\mu$ $\sigma^2$ $\displaystyle Y=\sum_{i=1}^n X_i$ $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ $n$

Si , ¿puedo decir algo como medida que aumenta? $Z=\sqrt{|Y|}$ $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ $n$

Por ejemplo, suponga que son Bernoulli con media y varianza , entonces es binomial y puedo simular esto en R, digamos con : $X_i$ $p$ $p(1-p)$ $Y$ $p=\frac13$

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

que proporciona aproximadamente la media esperada y la varianza de $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

y una trama QQ que se parece a Gaussian

qqnorm(Z)

normal-distribution central-limit-theorem sum Enrique
fuente

@MichaelM: Gracias por esos comentarios. Empecé con el no negativo, pero pensé que el comportamiento asintótico intuitivo que describiste permitió una generalización a más distribuciones. Mis sorpresas fueron (a) la varianza de la raíz cuadrada de la suma que aparentemente tiende a una constante que no depende de y (b) la aparición de una distribución que se parece mucho a la gaussiana. Sería bienvenido un contraejemplo, pero cuando probé otros casos que inicialmente parecían no gaussianos, aumentar aún más parecía devolver la distribución a un resultado de tipo CLT.

X_{i}

$X_i$

n

$n$

n

$n$

Henry

Un corolario de esto es el (media o cuadrática) root--cuadrado medio de variables aleatorias iid escalados adecuadamente (multiplicar por como con una media aritmética) también converge a una distribución Gaussiana siempre que el º momento de la La distribución subyacente es finita.

\sqrt{n}

$\sqrt{n}$

4

$4$

Henry

Solo un breve comentario: el reclamo es un caso especial del método Delta, ver Teorema 5.5.24 en el libro "Inferencia estadística" de Casella & Berger.

Michael M

@Michael: Quizás vea algo que no soy en este momento, pero no creo que este problema en particular se ajuste a los supuestos del método Delta clásico (por ejemplo, como se indica en el teorema al que hace referencia). Tenga en cuenta que no converge en la distribución (no trivialmente en ) y, por lo tanto, "aplicar el método Delta con " no satisface los requisitos necesarios. Sin embargo, como lo demuestra la respuesta de S. Catterall, proporciona una heurística útil que conduce a la respuesta correcta.

Y

$Y$

R

$\mathbb R$

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

cardenal

(Creo que podría adaptar la prueba del método Delta a casos similares a los anteriores para hacer completamente rigurosa la heurística antes mencionada.)

cardenal

Respuestas:

La convergencia a un gaussiano es de hecho un fenómeno general.

Suponga que son variables aleatorias IID con media y varianza , y defina las sumas . Arreglar un número . El teorema del límite central habitual nos dice que como , donde es El estándar normal cdf. Sin embargo, la continuidad del cdf limitante implica que también tenemos $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$ porque el término adicional en el lado derecho de la desigualdad tiende a cero. Reorganizar esta expresión lleva a

P (Y_{n} \leq (\frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ})^{2}) \to Φ (α)

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

Tomando raíces cuadradas, y notando que implica que , obtenemos En otras palabras, . Este resultado demuestra la convergencia a un gaussiano en el límite como . $\mu\gt 0$ $P(Y_n\lt 0)\to 0$

P (\sqrt{| Y_{n} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ}) \to Φ (α)

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

¿Significa esto que es una buena aproximación a para grande ? Bueno, podemos hacerlo mejor que esto. Como señala @Henry, suponiendo que todo sea positivo, podemos usar , junto con y la aproximación , para obtener la aproximación mejorada como se indica en la pregunta anterior. Tenga en cuenta también que todavía tenemos porque $\sqrt{n\mu}$ $E[\sqrt{|Y_n|}]$ $n$ $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$ como .

n \to \infty

$n\to\infty$

S. Catterall reinstala a Mónica
fuente

Es posible que deba agregar como para obtener mi resultado

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

Henry

@Henry Puede reemplazar con para cualquier constante y esto no cambiará la distribución limitante, pero puede cambiar el grado en que es una buena aproximación a para grande específico . ¿Cómo se te ocurrió ?

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

S. Catterall reinstala a Monica el

Tenemos así que . Suponiendo que todo es positivo, mientras que el denominador de sugiere , y la combinación de estos conduce a .

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

Henry

Ok, gracias, he tratado de cubrir esto en mi respuesta ahora.

S. Catterall reinstala a Monica el