Un tipo especial de algoritmo de Markov Chain Monte Carlo (MCMC) utilizado para simular a partir de distribuciones de probabilidad complejas. Está validado por la teoría de la cadena de Markov y ofrece una amplia gama de posibles implementaciones.
He estado tratando de aprender métodos MCMC y me he encontrado con el muestreo de Metropolis Hastings, Gibbs, Importancia y Rechazo. Si bien algunas de estas diferencias son obvias, es decir, cómo Gibbs es un caso especial de Metropolis Hastings cuando tenemos los condicionales completos, las otras...
Cuando estoy codificando una simulación de Monte Carlo para algún problema, y el modelo es lo suficientemente simple, uso un libro de texto muy básico de muestreo de Gibbs. Cuando no es posible usar el muestreo de Gibbs, codifico el libro de texto Metropolis-Hastings que aprendí hace años. El...
Hoy estaba leyendo el blog de Christian Robert y me gustó bastante el nuevo algoritmo Metropolis-Hastings que estaba discutiendo. Parecía simple y fácil de implementar. Cada vez que codifico MCMC, tiendo a mantener algoritmos MH muy básicos, como movimientos independientes o caminatas aleatorias...
Existen diferentes tipos de algoritmos MCMC: Metrópolis-Hastings Gibbs Muestra de importancia / rechazo (relacionado). ¿Por qué se usaría el muestreo de Gibbs en lugar de Metropolis-Hastings? Sospecho que hay casos en los que la inferencia es más manejable con el muestreo de Gibbs que con...
Acabo de leer un poco sobre el muestreo de Gibbs y el algoritmo Metropolis Hastings y tengo un par de preguntas. Según tengo entendido, en el caso del muestreo de Gibbs, si tenemos un gran problema multivariado, tomamos muestras de la distribución condicional, es decir, tomamos muestras de una...
Estoy leyendo sobre MCMC adaptativa (véase, por ejemplo, el Capítulo 4 del Manual de Markov Chain Monte Carlo , ed. Brooks et al., 2011; y también Andrieu & Thoms, 2008 ). nnnp(n)p(n)p(n)limn→∞p(n)=0limn→∞p(n)=0\lim_{n \rightarrow \infty} p(n) = 0 Este resultado es (a posteriori) intuitivo,...
Estaba revisando la documentación de Stan que se puede descargar desde aquí . Estaba particularmente interesado en su implementación del diagnóstico Gelman-Rubin. El artículo original Gelman y Rubin (1992) define el factor de reducción de escala potencial (PSRF) de la siguiente manera: Deje que...
Suponga que tengo una función g(x)g(x)g(x) que deseo integrar ∫∞−∞g(x)dx.∫−∞∞g(x)dx. \int_{-\infty}^\infty g(x) dx. Por supuesto, suponiendo que g(x)g(x)g(x) va a cero en los puntos finales, sin ampliaciones, buena función. Una forma con la que he estado jugando es usar el algoritmo...
En las últimas semanas, he estado tratando de entender MCMC y los algoritmos de Metropolis-Hastings. Cada vez que creo entenderlo me doy cuenta de que estoy equivocado. La mayoría de los ejemplos de código que encuentro en línea implementan algo que no es consistente con la descripción. es decir:...
Paseo aleatorio Metropolis-Hasitings con propuesta simétrica q( x | y) = g( | y- x | )q(XEl |y)=sol(El |y-XEl |)q(x|y)= g(|y-x|) tiene la propiedad de que la probabilidad de aceptación PAG( a c c e p t y ) = min { 1 , f( y) / f( x ) }PAG(unCCmipagt y)=min{1,F(y)/ /F(X)}P(accept\ y) = \min\{1,...
He estado tratando de entender el algoritmo de Metropolis-Hastings para escribir un código para estimar los parámetros de un modelo (es decir, F( x ) = a ∗ xF(X)=un∗Xf(x)=a*x ). Según la bibliografía, el algoritmo Metropolis-Hastings tiene los siguientes pasos: Generar Yt∼ q( yEl | Xt)Yt∼q(yEl...
En los últimos días he estado tratando de entender cómo funciona Markov Chain Monte Carlo (MCMC). En particular, he estado tratando de entender e implementar el algoritmo Metropolis-Hastings. Hasta ahora creo que tengo una comprensión general del algoritmo, pero hay algunas cosas que aún no me...
El mgcvpaquete Rtiene dos funciones para ajustar las interacciones del producto tensorial: te()y ti(). Entiendo la división básica del trabajo entre los dos (ajustar una interacción no lineal versus descomponer esta interacción en efectos principales y una interacción). Lo que no entiendo es por...
Necesito hacer una simulación para evaluar una integral de una función de 3 parámetros, decimos , que tiene una fórmula muy complicada. Se le pide que use el método MCMC para calcularlo e implementar el algoritmo Metropolis-Hastings para generar los valores distribuidos como , y se le sugirió...
Me encontré con el siguiente problema de simulación: dado un conjunto de números reales conocidos, una distribución en está definida por donde denota la parte positiva de . Si bien puedo pensar en una muestra de Metropolis-Hastings dirigida a esta distribución, me pregunto si existe una muestra...
Encontré este artículo donde dice que en el muestreo de Gibbs se acepta cada muestra. Estoy un poco confundido. ¿Cómo es que si cada muestra que aceptaba converge a una distribución estacionaria? En general, el algoritmo Metropolis aceptamos como min (1, p (x *) / p (x)) donde x * es el punto de...
En el algoritmo Metropolis – Hastings para muestrear una distribución objetivo, dejemos que: πiπi\pi_{i} sea la densidad objetivo en el estado ,iii πjπj\pi_j sea la densidad objetivo en el estado propuesto ,jjj hijhijh_{ij} sea la densidad propuesta para la transición al estado dado el...
Traté de simular a partir de una densidad bivariada usando algoritmos Metropolis en R y no tuve suerte. La densidad se puede expresar como , donde es la distribución de Singh-Maddalap ( y | x ) p ( x ) p ( x
En la cadena Monte Carlo de Metropolis-Hastings Markov, la distribución de la propuesta puede ser cualquier cosa, incluida la gaussiana (según Wikipedia). P: ¿Cuál es la motivación para usar algo que no sea gaussiano? Gaussian funciona, es fácil de evaluar, es rápido y todos lo entienden. ¿Por qué...
En una implementación MCMC de modelos jerárquicos, con efectos aleatorios normales y un Wishart previo para su matriz de covarianza, se usa típicamente el muestreo de Gibbs. Sin embargo, si cambiamos la distribución de los efectos aleatorios (p. Ej., A Student's-t u otro), la conjugación se...