¿Es la expectativa lo mismo que la media?

Estoy haciendo ML en mi universidad, y el profesor mencionó el término Expectativa (E), mientras intentaba explicarnos algunas cosas sobre los procesos gaussianos. Pero por la forma en que lo explicó, entendí que E es lo mismo que la media μ. ¿Entendí bien?

Si es lo mismo, ¿sabe por qué se usan ambos símbolos? También vi que E puede usarse como una función, como E ( ), pero no vi eso para μ. $x^2$

¿Alguien puede ayudarme a comprender mejor la diferencia entre los dos?

machine-learning gaussian-process linear-algebra Jim Blum
fuente

Para continuo , donde es la función de densidad de probabilidad. Entonces es cierto solo cuando es el argumento. Sin embargo, también podría ser cierto si tenemos , donde es algo distinto de la función de identidad.

X

$X$

E [X] = \int_{- \infty}^{\infty} f (x) x d x = μ (x)

$E[X] = \int_{-\infty}^{\infty} f(x)x dx = \mu(x)$

f (x)

$f(x)$

X

$X$

E [g (X)] = E [X] = μ (X)

$E[g(X)] = E[X] = \mu(X)$

g

$g$

Jase

@Jase ? ¿Por qué el lado derecho es una función de , que debería haber desaparecido después de la sustitución de los límites al evaluar la integral?

μ (x)

$\mu(x)$

x

$x$

Dilip Sarwate

@DilipSarwate fue un error tipográfico. Significa decir .

μ (x)

$\mu(x)$

μ = μ (X)

$\mu = \mu(X)$

Jase

John: si fuera tú, aprendería la probabilidad básica antes de tomar clases de Machine Learning / Gaussian Processes. Eche un vistazo a este libro: math.uiuc.edu/~r-ash/BPT.html

Zen

Muchas gracias muchachos por su ayuda! No esperaba tanta retroalimentación. @ Zen Muchas gracias por tu consejo. Estoy totalmente de acuerdo con usted. He tomado un módulo de pregrado en probabilidades y estadísticas. Sin embargo, solo tuvimos una introducción simple en distribuciones y probabilidades, y desafortunadamente no las hicimos en profundidad. Además, no mencionamos el término "Expectativa". Estoy intentando ahora, para cubrir mis brechas en las estadísticas y las probabilidades por mí mismo.

Jim Blum

Respuestas:

Expectativa / valor esperado es un operador que se puede aplicar a una variable aleatoria. Para variables aleatorias discretas (como binomial) con valores posibles, se define como . Es decir, es la media de los posibles valores ponderados por la probabilidad de esos valores. Las variables aleatorias continuas pueden considerarse como la generalización de esto: . La media de una variable aleatoria es sinónimo de expectativa. $k$ $\sum_i^k x_i p(x_i)$ $\int x dP$

La distribución gaussiana (normal) tiene dos parámetros y . Si se distribuye normalmente, entonces . Entonces, la media de una variable distribuida gaussiana es igual al parámetro . Este no es siempre el caso. Tome la distribución binomial, que tiene los parámetros y . Si se distribuye binomialmente, entonces . $\mu$ $\sigma^2$ $X$ $E(X)=\mu$ $\mu$ $n$ $p$ $X$ $E(X)=np$

Como viste, también puedes aplicar expectativas a funciones de variables aleatorias para que para una gaussiana puedas encontrar que . $X$ $E(X^2)=\sigma^2+\mu^2$

La página de Wikipedia sobre los valores esperados es bastante informativa: http://en.wikipedia.org/wiki/Expected_value

Jeremy Coyle
fuente

"... para que para una gaussiana puedas encontrar que ". ¿Es absolutamente necesario que de Gauss para que esta relación se mantenga?

X

$X$

E (X^{2}) = σ^{2} + μ^{2}

$E(X^2)=\sigma^2+\mu^2$

X

$X$

Dilip Sarwate

La relación siempre se mantendrá, pero esperaría la respuesta escrita en términos de los parámetros de la distribución. Entonces, si le preguntara a alguien qué era para Binomial distribuido , esperaría la respuesta , no

E (X^{2}) = V (X) + E (X)^{2}

$E(X^2)=V(X)+E(X)^2$

E (X^{2})

$E(X^2)$

X

$X$

(n, p)

$(n,p)$

n p (1 - p) + (n p)^{2}

$np(1-p)+(np)^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

Jeremy Coyle

Pero si preguntara qué era para una variable aleatoria binomial con media y varianza , la respuesta sería . Es cierto que las variables aleatorias binomiales generalmente se parametrizan usando y , pero ¿y qué? A partir de la media y la varianza, podemos encontrar fácilmente y

E (X^{2})

$E(X^2)$

μ

$\mu$

σ^{2}

$\sigma^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

n

$n$

p

$p$

p = 1 - \frac{variance}{mean}

$p = 1 - \frac{\text{variance}}{\text{mean}}$

n = \frac{mean}{p} = \frac{{mean}^{2}}{mean - variance} .

$n = \frac{\text{mean}}{p} = \frac{\text{mean}^2}{\text{mean}-\text{variance}}.$

Dilip Sarwate

Todo el punto del ejemplo era hacer una distinción entre los parámetros de una distribución y los momentos de una distribución. Sí, es posible volver a parametrizar las distribuciones en términos de sus momentos, pero dado que el OP preguntaba sobre la relación entre y , parece importante continuar haciendo esa distinción. ¿Hay alguna razón por la que eliges ser pedante sobre este punto?

E (X)

$E(X)$

μ

$\mu$

Jeremy Coyle

Muchas gracias Jeremy! Excelente respuesta fuiste muy útil!

Jim Blum

La expectativa con una notación de operador E () (se encuentran preferencias variables en buenas fuentes, romanas o cursivas, simples o elegantes) implica tomar la media de su argumento, pero en un contexto matemático o teórico. El término se remonta a Christiaan Huygens en el siglo XVII. La idea es explícita en gran parte de la teoría de la probabilidad y las estadísticas matemáticas y, por ejemplo, el libro Probabilidad a través de la expectativa de Peter Whittle deja en claro cómo podría hacerse aún más central.

Básicamente, es solo una cuestión de convención que los medios (promedios) a menudo también se expresan de manera bastante diferente, en particular mediante símbolos únicos, y especialmente cuando esos medios deben calcularse a partir de los datos. Sin embargo, Whittle en el libro que acabamos de citar utiliza una notación A () para promediar y los corchetes angulares en torno a variables o expresiones a promediar son comunes en la ciencia física.

Nick Cox
fuente