Existencia del momento que genera función y varianza

¿Puede una distribución con media finita e infinita varianza tener una función generadora de momentos? ¿Qué pasa con una distribución con media finita y varianza finita pero infinitos momentos más altos?

Esta pregunta ofrece una buena oportunidad para recopilar algunos datos sobre funciones generadoras de momentos ( mgf ).

En la respuesta a continuación, hacemos lo siguiente:

1. Muestre que si el mgf es finito para al menos un valor (estrictamente) positivo y un valor negativo, entonces todos los momentos positivos de $X$ son finitos (incluidos los momentos no integrales).
2. Demuestre que la condición en el primer elemento anterior es equivalente a la distribución de $X$ con colas exponencialmente delimitadas . En otras palabras, las colas de $X$ caen al menos tan rápido como las de una variable aleatoria exponencial $Z$ (hasta una constante).
3. Proporcione una nota rápida sobre la caracterización de la distribución por su mgf, siempre que cumpla la condición del elemento 1.
4. Explore algunos ejemplos y contraejemplos para ayudar a nuestra intuición y, en particular, para mostrar que no debemos leer la importancia indebida en la falta de finitud de la mgf.

Esta respuesta es bastante larga, por lo cual me disculpo de antemano. Si esto sería mejor, por ejemplo, como una publicación de blog o en otro lugar, no dude en enviarnos sus comentarios en los comentarios.

¿Qué dice el mgf sobre los momentos?

El mgf de una variable aleatoria se define como m ( t ) = E e t X . Tenga en cuenta que m ( t ) siempre existe, ya que es la integral de una función medible no negativa. Sin embargo, si no puede ser finito . Si es finito (en los lugares correctos), entonces para todo p > 0 (no necesariamente un número entero), los momentos absolutos E | X | p < ∞ (y, por lo tanto, también E X $X \sim F$$m(t) = \mathbb E e^{tX}$$m(t)$ $p > 0$$\mathbb E |X|^p < \infty$$\mathbb E X^p$es finito). Este es el tema de la próxima propuesta.

Propuesta : Si existe y t p > 0 tal que m ( t n ) < ∞ y m ( t p ) < ∞ , entonces los momentos de todas las órdenes de X existen y son finitos.$\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$$\tp > 0$$m(\tn) < \infty$$m(\tp) < \infty$$X$

Antes de sumergirse en una prueba, aquí hay dos lemas útiles.

Lema 1 : Supongamos que tales y t p existir. Entonces para cualquier t 0 ∈ [ t n , t p ] , m ( t 0 ) < ∞ . Prueba . Esto se sigue de convexidad de e x y monotonicidad de la integral. Para cualquier t 0 , existe θ ∈ [ 0 , 1 ] tal que t 0 = θ t n$\tn$$\tp$$t_0 \in [\tn,\tp]$$m(t_0) < \infty$
$e^x$$t_0$$\theta \in [0,1]$ . Pero, entonces e t 0 X = e θ t n X + ( 1 - θ ) t p X ≤ θ e t n X + ( 1 - θ ) e t p$t_0 = \theta \tn + (1-\theta) \tp$ Por lo tanto, por monotonicidad de la integral, E e t 0 X ≤ θ E e t n X + ( 1 - θ ) E e t p X < ∞ .

$$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$$ $\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

Entonces, si el mgf es finito en dos puntos distintos, es finito para todos los valores en el intervalo entre esos puntos.

Lema 2 ( anidamiento de espacios $L_p$ ): para , si E | X | p < ∞ , entonces E | X | q < ∞ . Prueba : se dan dos enfoques en esta respuesta y comentarios asociados .$0 \leq q \leq p$$\mathbb E |X|^p < \infty$$\mathbb E |X|^q < \infty$

Esto nos da suficiente para continuar con la prueba de la proposición.

$\tn < 0$$\tp > 0$m ( - t 0 ) < ∞ m ( t 0 ) < ∞ e - t 0 X + e t 0 X = 2 ∞ ∑ n = 0 t 2 n 0 X 2 $t_0 = \min(-\tn,\tp) > 0$$m(-t_0) < \infty$$m(t_0) < \infty$k e - t 0 X + e t 0 X ≥ 2 t 2 k 0 X 2 k / ( 2 k )

$$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$$ $k$ E e - t 0 X + E e t 0 X < ∞ E X 2 k < ∞ $$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$$ $\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$. Monotonicidad de los rendimientos integrales . Por lo tanto, todos los momentos pares de son finitos. Lemma 2 inmediatamente nos permite "llenar los vacíos" y concluir que todos los momentos deben ser finitos.$\mathbb E X^{2k} < \infty$$X$

Resultado

El resultado con respecto a la pregunta en cuestión es que si alguno de los momentos de es infinito o no existe, podemos concluir de inmediato que el mgf no es finito en un intervalo abierto que contiene el origen. (Esta es solo la declaración contrapositiva de la proposición).$X$

Por lo tanto, la proposición anterior proporciona la condición "correcta" para decir algo sobre los momentos de función de su mgf.$X$

Colas exponencialmente delimitadas y el mgf

Propuesta : El mgf es finito en un intervalo abierto contiene el origen si y solo si las colas de están limitadas exponencialmente , es decir, para algunos y .$m(t)$$(\tn,\tp)$$F$$\mathbb P( |X| > x) \leq C e^{-t_0 x}$$C > 0$$t_0 > 0$

Prueba . Nos ocuparemos de la cola derecha por separado. La cola izquierda se maneja de manera completamente análoga.

$(\Rightarrow)$ Supongamos que para algunos . Entonces, la cola derecha de está limitada exponencialmente ; en otras palabras, existe y tal que Para ver esto, tenga en cuenta que para cualquier , por la desigualdad de Markov, Tome y para completar esta dirección de la prueba.$m(t_0) < \infty$$t_0 > 0$$F$$C > 0$$b > 0$

$$\mathbb P(X > x) \leq C e^{-b x} \>.$$ $t > 0$ $$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$$ $C = m(t_0)$$b = t_0$

$(\Leftarrow)$ Suponga que existe y tal que . Entonces, para , donde la primera igualdad se deduce de un hecho estándar sobre la expectativa de variables aleatorias no negativas . Elija cualquier tal que ; entonces, la integral en el lado derecho es finita.$C >0$$t_0 > 0$$\mathbb P(X > x) \leq C e^{-t_0 x}$$t > 0$

$$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$$ $t$$0 < t < t_0$

Esto completa la prueba.

Una nota sobre la unicidad de una distribución dada su mgf

Si el mgf es finito en un intervalo abierto que contiene cero, entonces la distribución asociada se caracteriza por sus momentos , es decir, es la única distribución con los momentos . Una prueba estándar es breve una vez que uno tiene a mano algunos hechos (relativamente sencillos) sobre las funciones características . Los detalles se pueden encontrar en los textos de probabilidad más modernos (por ejemplo, Billingsley o Durrett). Un par de asuntos relacionados se discuten en esta respuesta .$\mu_n = \mathbb E X^n$

Ejemplos y contraejemplos

( Un ) distribución lognormal : es lognormal si por alguna variable aleatoria normal . Entonces con probabilidad uno. Debido a que para todo , esto inmediatamente nos dice que para todo . Entonces, el mgf es finito en la media línea no negativa . ( NB Solo hemos usado la no negatividad de para establecer este hecho, por lo que esto es cierto para todas las variables aleatorias no negativas).$X$$X = e^Y$$Y$$X \geq 0$$e^{-x} \leq 1$$x \geq 0$$m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$$(-\infty,0]$$X$

Sin embargo, para todo . Tomaremos el estándar lognormal como el caso canónico. Si , entonces . Por cambio de variables, tenemos Para y suficientemente grande , tenemos por los límites indicados anteriormente. Pero, para cualquier , por lo que el mgf es infinito para todo .$m(t) = \infty$ $t > 0$$x > 0$$e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

$$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$$ $t > 0$$u$$t e^u - u^2/2 \geq t+tu$ $$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$$ $K$$t > 0$

Por otro lado, todos los momentos de la distribución lognormal son finitos. Por lo tanto, la existencia de mgf en un intervalo de aproximadamente cero no es necesaria para la conclusión de la proposición anterior .

( b ) Lognormal simétrico : Podemos obtener un caso aún más extremo al "simular" la distribución lognormal. Considere la densidad para tal que No es difícil ver a la luz del ejemplo anterior que el mgf es finito solo para . Sin embargo, ¡los momentos pares son exactamente los mismos que los de lognormal y los momentos impares son todos cero! Por lo tanto, el mgf no existe en ninguna parte (excepto en el origen donde siempre existe) y, sin embargo, podemos garantizar momentos finitos de todos los pedidos.$f(x)$$x \in \mathbb R$

$$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$$ $t = 0$

( c ) Distribución de Cauchy : esta distribución también tiene un mgf que es infinito para todo , pero ningún momento absoluto es finito para . El resultado para el mgf sigue para ya que para y entonces La prueba para es análoga. (Tal vez un poco menos conocido es que los momentos de do existe para el Cauchy. Ver esta respuesta$t \neq 0$$\mathbb E|X|^p$$p \geq 1$$t > 0$$e^x \geq x^3 / 6$$x > 0$

$$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$$ $t < 0$$0 < p < 1$ .)

( d ) Distribución Half-Cauchy : si es Cauchy (estándar), llame auna variable aleatoria medio Cauchy. Entonces, es fácil ver en el ejemplo anterior que para todo ; sin embargo, es finito para . Y = | X | E Y p = ∞ p ≥ 1 E e t Y t ∈ ( - ∞ , 0 $X$$Y = |X|$$\mathbb E Y^p = \infty$$p \geq 1$$\mathbb E e^{tY}$$t \in (-\infty,0]$