¿Por qué se rompe el Teorema del límite central en mi simulación?

Digamos que tengo los siguientes números:

4,3,5,6,5,3,4,2,5,4,3,6,5

Muestro algunos de ellos, digamos, 5 de ellos, y calculo la suma de 5 muestras. Luego repito eso una y otra vez para obtener muchas sumas, y trazo los valores de las sumas en un histograma, que será gaussiano debido al Teorema del límite central.

Pero cuando siguen los números, acabo de reemplazar 4 con algún número grande:

4,3,5,6,5,3,10000000,2,5,4,3,6,5

Las sumas de muestreo de 5 muestras de estas nunca se convierten en gaussianas en el histograma, sino más bien como una división y se convierten en dos gaussianas. ¿Porqué es eso?

Recordemos, precisamente, lo que dice el teorema del límite central.

Si $X_1, X_2, \cdots, X_k$ son variables aleatorias independientes e idénticamente distribuidas con media (compartida) $\mu$ y desviación estándar $\sigma$ , entonces $\frac{X_1 + X_2 + \cdots + X_k}{k\frac{\sigma}{\sqrt{k}}}$ converge en distribución a una distribución normal estándar$N(0, 1)$(*).

Esto se usa a menudo en la forma "informal":

Si $X_1, X_2, \cdots, X_k$ son variables aleatorias independientes e idénticamente distribuidas con media (compartida) $\mu$ y desviación estándar $\sigma$ , entonces $X_1 + X_2 + \cdots + X_k$ converge "en distribución" a una distribución normal estándar $N(k \mu, \sqrt{k} \sigma)$.

No hay una buena manera de hacer que la forma del CLT sea matemáticamente precisa, ya que el cambio de distribución "límite", pero es útil en las prácticas.

Cuando tenemos una lista estática de números como

4,3,5,6,5,3,10000000,2,5,4,3,6,5

y estamos tomando muestras tomando un número al azar de esta lista, para aplicar el teorema del límite central necesitamos asegurarnos de que nuestro esquema de muestreo satisfaga estas dos condiciones de independencia y esté distribuido de manera idéntica.

• Distribuido de forma idéntica no es un problema: cada número de la lista tiene la misma probabilidad de ser elegido.
• Independiente es más sutil y depende de nuestro esquema de muestreo. Si estamos tomando muestras sin reemplazo , entonces violamos la independencia. Solo cuando tomamos muestras con reemplazo es aplicable el teorema del límite central.

Por lo tanto, si utilizamos el muestreo de reemplazo en su esquema, entonces deberíamos poder aplicar el teorema del límite central. Al mismo tiempo, tiene razón, si nuestra muestra es de tamaño 5, entonces veremos un comportamiento muy diferente dependiendo de si se elige el número muy grande o no en nuestra muestra.

Entonces, ¿cuál es el problema? Bueno, la tasa de convergencia a una distribución normal depende mucho de la forma de la población de la que estamos tomando muestras, en particular, si nuestra población es muy sesgada, esperamos que tarde mucho tiempo en converger a la normalidad. Este es el caso en nuestro ejemplo, por lo que no debemos esperar que una muestra de tamaño 5 sea suficiente para mostrar la estructura normal.

Arriba repetí su experimento (con muestreo de reemplazo) para muestras de tamaño 5, 100 y 1000. Puede ver que la estructura normal es emergente para muestras muy grandes.

(*) Tenga en cuenta que aquí se necesitan algunas condiciones técnicas, como la media finita y la varianza. Se verifica fácilmente para que sean verdaderas en nuestro muestreo a partir de un ejemplo de lista.

$5$$30$$5$

pop <- c(4, 3, 5, 6, 5, 3, 4, 2, 5, 4, 3, 6, 5)
N <- 10^5
n <- 5
x <- matrix(sample(pop, size = N*n, replace = TRUE), nrow = N)
x_bar <- rowMeans(x)
hist(x_bar, freq = FALSE, col = "cyan")
f <- function(t) dnorm(t, mean = mean(pop), sd = sd(pop)/sqrt(n))
curve(f, add = TRUE, lwd = 2, col = "red")

$30$

pop <- c(4, 3, 5, 6, 5, 3, 10000000, 2, 5, 4, 3, 6, 5)
N <- 10^5
n <- 30
x <- matrix(sample(pop, size = N*n, replace = TRUE), nrow = N)
x_bar <- rowMeans(x)
hist(x_bar, freq = FALSE, col = "cyan")
f <- function(t) dnorm(t, mean = mean(pop), sd = sd(pop)/sqrt(n))
curve(f, add = TRUE, lwd = 2, col = "red")

$100$

pop <- c(4, 3, 5, 6, 5, 3, 10000000, 2, 5, 4, 3, 6, 5)
N <- 10^5
n <- 100
x <- matrix(sample(pop, size = N*n, replace = TRUE), nrow = N)
x_bar <- rowMeans(x)
hist(x_bar, freq = FALSE, col = "cyan")
f <- function(t) dnorm(t, mean = mean(pop), sd = sd(pop)/sqrt(n))
curve(f, add = TRUE, lwd = 2, col = "red")

Solo me gustaría explicar, utilizando funciones complejas generadoras de acumulantes , por qué todos siguen atribuyendo esto a la asimetría.

$\mu+\sigma Z$$\mu$$\sigma$$Z$$0$$1$$Z$$-\frac{1}{2}t^2-\frac{i\gamma_1}{6}t^3+o(t^3)$$\gamma_1$$Z$$\kappa_3$$\mu+\sigma Z$$\gamma_1=\sigma^{-3}\kappa_3$

$n$$Z$$\sqrt{n}$

La respuesta corta es que no tiene una muestra lo suficientemente grande como para aplicar el teorema del límite central.