¿Cuándo es útil MCMC?

Tengo problemas para comprender en qué situación el enfoque MCMC es realmente útil. Estoy revisando un ejemplo de juguete del libro de Kruschke "Haciendo análisis de datos bayesianos: un tutorial con R y BUGS".

Lo que entendí hasta ahora es que necesitamos una distribución objetivo que sea proporcional a para tener una muestra de . Sin embargo, me parece que una vez que tenemos solo necesitamos normalizar la distribución para obtener el posterior, y el factor de normalización se puede encontrar fácilmente numéricamente. Entonces, ¿cuáles son los casos cuando esto no es posible? $p(D|\theta)p(\theta)$ $P(\theta|D)$ $p(D|\theta)p(\theta)$

mcmc Vaaal
fuente

Supongamos que

no es un escalar, sino que es un vector

tiene 10000 dimensiones.

θ

$\theta$

θ

$\boldsymbol\theta$

Jan Galkowski

Mi respuesta fue un poco breve. Para obtener la constante, necesita calcular

. Incluso en el caso escalar, suponga que

es realmente inestable, por lo que la integración es difícil de hacer, incluso numéricamente. Entonces es posible que desee utilizar MCMC.

\int_{- \infty}^{\infty} p (D | θ) p (θ)

$\int_{-\infty}^{\infty} p(D|\theta)p(\theta)$

p (D | θ)

$p(D|\theta)$

Jan Galkowski

Una advertencia de Alan Sokal: "Monte Carlo es un método extremadamente malo; debe usarse solo cuando todos los métodos alternativos son peores". Luego se embarca en una larga discusión sobre los métodos de MC. stat.unc.edu/faculty/cji/Sokal.pdf

Yair Daon

@Yair: Me parece que Sokal está canalizando a Churchill.

Cardenal

Cuando nada más funcionará ...

kjetil b halvorsen

Respuestas:

La integración de Monte Carlo es una forma de integración numérica que puede ser mucho más eficiente que, por ejemplo, la integración numérica al aproximar el integrando con polinomios. Esto es especialmente cierto en grandes dimensiones, donde las técnicas simples de integración numérica requieren grandes cantidades de evaluaciones de funciones. Para calcular la constante de normalización , podríamos usar muestreo de importancia , $p(D)$

p (D) = \int \frac{q (θ)}{q (θ)} p (θ) p (D ∣ θ) d θ \approx \frac{1}{N} \sum_{n} w_{n} p (θ_{n}) p (D ∣ θ_{n}),

$p(D) = \int \frac{q(\theta)}{q(\theta)} p(\theta)p(D \mid \theta) \, d\theta \approx \frac{1}{N} \sum_n w_n p(\theta_n)p(D \mid \theta_n),$

donde y se muestrean a partir de . Tenga en cuenta que solo necesitamos evaluar la distribución conjunta en los puntos muestreados. Para el correcto, este estimador puede ser muy eficiente en el sentido de requerir muy pocas muestras. En la práctica, elegir una adecuadapuede ser difícil, ¡pero aquí es donde MCMC puede ayudar! El muestreo de importancia recocido(Neal, 1998)combina MCMC con muestreo de importancia. $w_n = 1/q(\theta_n)$ $\theta_n$ $q$ $q$ $q$

Otra razón por la que MCMC es útil es esta: por lo general, ni siquiera estamos interesados en la densidad posterior de , sino en estadísticas y expectativas resumidas , por ejemplo, $\theta$

\int p (θ ∣ D) f (θ) d θ .

$\int p(\theta \mid D) f(\theta) \, d\theta.$

Saber generalmente no significa que podamos resolver esta integral, pero las muestras son una forma muy conveniente de estimarlo. $p(D)$

Finalmente, poder evaluar es un requisito para algunos métodos de MCMC, pero no todos (p. Ej., Murray et al., 2006 ). $p(D \mid \theta)p(\theta)$

Lucas
fuente

Lo siento, pero esto todavía no está claro para mí. Mi pregunta es: si simplemente multiplicamos

obtenemos un pdf no normalizado. Al ejecutar MCMC obtenemos una muestra para la cual podemos estimar el pdf no normalizado. Si queremos, podríamos normalizar ambos. Entonces, suponiendo que NO estoy interesado en ninguna estadística resumida, sino solo en las posteriores, ¿por qué usamos MCMC en primer lugar? Como dijiste, algunos métodos MCMC no requieren el cálculo de

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$ , así que no me estoy refiriendo a esos. Hasta donde yo sé, la mayoría de ellos requieren el cálculo de eso. ¿Cuál es la utilidad de estos métodos?

Vaaal

Cuando ejecuta MCMC, obtiene una muestra del pdf normalizado, así que evite calcular la constante de normalización. Y esto es gratis.

Xi'an

@Vaaal: su suposición de que "el factor de normalización podría encontrarse fácilmente numéricamente" solo se cumple para distribuciones univariadas simples. Para altas dimensiones

, normalizando

θ

$\theta$

p (D ∣ θ) p (θ)

$p(D \mid \theta) p(\theta)$

$p(\theta)$ $f(x|\theta)$

p (θ | x) \propto p (θ) f (x | θ)

$p(\theta|x)\propto p(\theta)f(x|\theta)$

$\theta$

Por el contrario, los métodos de Monte Carlo de la cadena de Markov son más fáciles de ver en grandes dimensiones, ya que pueden explorar la distribución posterior de forma local, es decir, en una vecindad del valor actual, y en un número menor de componentes, es decir, en subespacios. Por ejemplo, el $p(\theta|x)$

Los métodos de Monte Carlo de la cadena de Markov también tienen cierto grado de universalidad en algoritmos como el algoritmo Metropolis-Hastings $p(\theta|x)$

$p(\theta)f(x|\theta)$

p (θ) f (x | θ) \propto \int g (z | θ, x) p (θ) f (x | θ) d z

$p(\theta)f(x|\theta)\propto \int g(z|\theta,x) p(\theta)f(x|\theta)\text{d}z$

Los métodos MCMC han dado un alcance mucho más amplio para los métodos bayesianos, como lo ilustra el aumento que siguió a la popularización del método por Alan Gelfand y Adrian Smith en 1990.

Xi'an
fuente

El enlace al LIBRO DE ERRORES ya no funciona.

HelloWorld