Algoritmos de Metropolis-Hastings utilizados en la práctica

20

Hoy estaba leyendo el blog de Christian Robert y me gustó bastante el nuevo algoritmo Metropolis-Hastings que estaba discutiendo. Parecía simple y fácil de implementar.

Cada vez que codifico MCMC, tiendo a mantener algoritmos MH muy básicos, como movimientos independientes o caminatas aleatorias en la escala de registro.

¿Qué algoritmos de MH usan las personas habitualmente? En particular:

  • ¿Por qué los usas?
  • En cierto sentido, debes pensar que son óptimas; después de todo, ¡las usas habitualmente! Entonces, ¿cómo juzga la optimización: facilidad de codificación, convergencia, ...

Estoy particularmente interesado en lo que se usa en la práctica, es decir, cuando codifica sus propios esquemas.

mcmc metropolis-hastings csgillespie
fuente
Tal vez, CW? La pregunta parece una encuesta de lo que usa la gente. ¿Cómo definirías la 'mejor' respuesta? Admito que estoy un poco confuso cuando aplico CW. Entonces, siéntase libre de ignorar este comentario si siente lo contrario.
1
No me importaría dejar esto como no CW, especialmente si Colin puede reformularlo ligeramente para permitir la posibilidad de una mejor respuesta. Dicho esto, no puedo imaginar cómo hacer eso ...
Shane
Intenté cambiar la pregunta para que sea menos CW, no estoy seguro de haber tenido éxito :( @Shane @Srikant si todavía piensas que debería ser un CW, no
dudes
¡Esto suena como si fuera una buena encuesta!
Sean

Respuestas:

2

Hybrid Monte Carlo es el algoritmo estándar utilizado para redes neuronales. Muestreo de Gibbs para la clasificación del proceso gaussiano (cuando no se utiliza una aproximación determinista).

Dikran Marsupial
fuente
2

El muestreo MH se usa cuando es difícil tomar muestras de la distribución objetivo (por ejemplo, cuando lo anterior no se conjuga con la probabilidad). Por lo tanto, utiliza una distribución de propuesta para generar muestras y aceptarlas / rechazarlas según la probabilidad de aceptación. El algoritmo de muestreo de Gibbs es una instancia particular de MH donde las propuestas siempre son aceptadas. El muestreo de Gibbs es uno de los algoritmos más utilizados debido a su simplicidad, pero no siempre es posible aplicarlo, en cuyo caso se recurre a MH en base a propuestas de aceptación / rechazo.

ébano1
fuente
1

En física, la física estadística en particular, los algoritmos de tipo Metrópolis se usan ampliamente. Realmente hay innumerables variantes de estos, y los nuevos se están desarrollando activamente. Es un tema demasiado amplio para dar cualquier tipo de expansión aquí, por lo que si está interesado puede comenzar, por ejemplo, desde estas notas de la conferencia o desde la página web de la biblioteca ALPS (http://alps.comp-phys.org/mediawiki).

ev-br
fuente
Me doy cuenta de que hay innumerables variantes de este algoritmo. Lo que me interesaba era cuáles usan las personas habitualmente.
csgillespie
1

Utilizo una muestra de corte, originalmente propuesta por Neal (2003), que sintonizo a través de la optimización heurística.

M. Tibbits
fuente