¿Hay algún ejemplo de dónde no se cumple el teorema del límite central?

Wikipedia dice:

En la teoría de la probabilidad, el teorema del límite central (CLT) establece que, en la mayoría de las situaciones , cuando se agregan variables aleatorias independientes, su suma correctamente normalizada tiende hacia una distribución normal (informalmente una "curva de campana") incluso si las variables originales no son Normalmente distribuido...

Cuando dice "en la mayoría de las situaciones", ¿en qué situaciones no funciona el teorema del límite central?

Para comprender esto, primero debe establecer una versión del Teorema del límite central. Aquí está la declaración "típica" del teorema del límite central:

Lindeberg – Lévy CLT. Suponga que es una secuencia de variables aleatorias iid con y . Deje . Luego, cuando aproxima al infinito, las variables aleatorias convergen en distribución a un normal es decir E[ X i ]=μVar[ X i ]= σ 2 <∞ S n := X 1 + ⋯ + X ${X_1, X_2, \dots}$$E[X_i] = \mu$$Var[X_i] = \sigma^2 < \infty$ n$S_{n}:={\frac {X_{1}+\cdots +X_{n}}{n}}$$n$N(0,σ2$\sqrt{n}(S_n − \mu)$$N(0,\sigma^2)$

$${\displaystyle {\sqrt {n}}\left(\left({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\right)-\mu \right)\ {\xrightarrow {d}}\ N\left(0,\sigma ^{2}\right).}$$

Entonces, ¿cómo difiere esto de la descripción informal y cuáles son las brechas? Existen varias diferencias entre su descripción informal y esta descripción, algunas de las cuales se han discutido en otras respuestas, pero no completamente. Entonces, podemos convertir esto en tres preguntas específicas:

• ¿Qué sucede si las variables no están distribuidas de manera idéntica?
• ¿Qué pasa si las variables tienen varianza infinita o media infinita?
• ¿Qué tan importante es la independencia?

Tomando estos uno a la vez,

No distribuido de manera idéntica , los mejores resultados generales son las versiones de Lindeberg y Lyaponov del teorema del límite central. Básicamente, siempre que las desviaciones estándar no crezcan demasiado, puede obtener un teorema de límite central decente.

Lyapunov CLT. [5] Supongamos que es una secuencia de variables aleatorias independientes, cada una con un valor esperado finito y varianza Definir:μ i σ 2 s 2 n = ∑ ${X_1, X_2, \dots}$$\mu_i$$\sigma^2$$s_{n}^{2}=\sum _{i=1}^{n}\sigma _{i}^{2}$

Si para algún , la condición de Lyapunov se cumple, luego se suma una suma de converge en distribución a una variable aleatoria normal estándar, ya que n va al infinito:lim n → ∞ $\delta > 0$Xi-μi/s${\displaystyle \lim _{n\to \infty }{\frac {1}{s_{n}^{2+\delta }}}\sum_{i=1}^{n}\operatorname {E} \left[|X_{i}-\mu _{i}|^{2+\delta }\right]=0}$$X_i − \mu_i / s_n$

${{\frac {1}{s_{n}}}\sum _{i=1}^{n}\left(X_{i}-\mu_{i}\right)\ {\xrightarrow {d}}\ N(0,1).}$

Existen teoremas de varianza infinita similares al teorema del límite central para variables con varianza infinita, pero las condiciones son significativamente más estrechas que para el teorema del límite central habitual. Esencialmente, la cola de la distribución de probabilidad debe ser asintótica a para . En este caso, los sumandos escalados apropiados convergen a una distribución estable Levy-Alpha . 0<α<$|x|^{-\alpha-1}$$0 < \alpha < 2$

Importancia de la independencia Hay muchos teoremas de límite central diferentes para secuencias no independientes de . Todos son altamente contextuales. Como Batman señala, hay uno para Martingales. Esta pregunta es un área de investigación en curso, con muchas, muchas variaciones diferentes dependiendo del contexto específico de interés. Esta pregunta sobre Math Exchange es otra publicación relacionada con esta pregunta.$X_i$

Aunque estoy bastante seguro de que se ha respondido antes, aquí hay otro:

Existen varias versiones del teorema del límite central, la más general es que, dadas las funciones arbitrarias de densidad de probabilidad, la suma de las variables se distribuirá normalmente con un valor medio igual a la suma de los valores medios, y la varianza será la suma de las variaciones individuales.

Una restricción muy importante y relevante es que la media y la varianza de los archivos PDF dados deben existir y deben ser finitas.

Entonces, solo tome cualquier pdf sin valor medio o varianza, y el teorema del límite central ya no se mantendrá. Así que tome una distribución lorentziana por ejemplo.

No, CLT siempre se cumple cuando se cumplen sus supuestos. Las calificaciones como "en la mayoría de las situaciones" son referencias informales a las condiciones bajo las cuales se debe aplicar CLT.

Por ejemplo, una combinación lineal de variables independientes de la distribución de Cauchy no se sumará a la variable distribuida Normal . Una de las razones es que la varianza no está definida para la distribución de Cauchy , mientras que CLT pone ciertas condiciones en la varianza, por ejemplo, que tiene que ser finita. Una implicación interesante es que, dado que las simulaciones de Monte Carlo están motivadas por CLT, debe tener cuidado con las simulaciones de Monte Carlo cuando se trata de distribuciones de cola gruesa, como Cauchy.

Tenga en cuenta que hay una versión generalizada de CLT. Funciona para variaciones infinitas o indefinidas, como la distribución de Cauchy. A diferencia de muchas distribuciones que se comportan bien, la suma correctamente normalizada de los números de Cauchy sigue siendo Cauchy. No converge al gaussiano.

Por cierto, no solo Gaussian, sino muchas otras distribuciones tienen PDF en forma de campana, por ejemplo, Student t. Es por eso que la descripción que citó es bastante liberal e imprecisa, tal vez a propósito.

$\sqrt{n}$

$n$$n=1000$$1/\sqrt{2\pi}\approx0.4$

library(MASS)
n <- 1000
samples.from.t <- replicate(1e5, sqrt(n)*mean(rt(n, df = 2)))
truehist(samples.from.t, xlim = c(-10,10), col="salmon")

Un caso simple donde el CLT no puede sostenerse por razones muy prácticas, es cuando la secuencia de variables aleatorias se acerca estrictamente a su límite de probabilidad desde un lado . Esto se encuentra, por ejemplo, en estimadores que estiman algo que se encuentra en un límite.

$\theta$$U(0,\theta)$$\theta$$\theta$$\theta$

El estimador debidamente escalado tiene una distribución limitante, pero no de la "variedad CLT".

Puede encontrar una solución rápida aquí.

Surgen excepciones al teorema del límite central

1. Cuando hay varios máximos de la misma altura, y
2. Donde la segunda derivada se desvanece al máximo.

Hay ciertas otras excepciones que se describen en la respuesta de @cherub.

La misma pregunta ya se ha hecho en math.stackexchange . Puedes consultar las respuestas allí.