Estoy tratando de tener una idea de los méritos y los inconvenientes relativos, así como los diferentes dominios de aplicación de estos dos esquemas MCMC.
- ¿Cuándo usarías cuál y por qué?
- Cuándo podría uno fallar pero el otro no (por ejemplo, dónde es aplicable HMC pero SMC no, y viceversa)
- ¿Podría uno, concedido muy ingenuamente, poner una medida de utilidad en un método en comparación con el otro (es decir, es uno, generalmente, mejor )?
Actualmente estoy leyendo el excelente artículo de Betancourt sobre HMC .
Respuestas:
Hamiltonian Monte Carlo funciona bien con distribuciones continuas de objetivos con formas "extrañas". Requiere que la distribución objetivo sea diferenciable ya que básicamente usa la pendiente de la distribución objetivo para saber a dónde ir. El ejemplo perfecto es una función en forma de plátano.
Aquí hay una Metropolis Hastings estándar en una función Banana: tasa de aceptación del 66% y muy poca cobertura.
Aquí está con HMC: 99% de aceptación con buena cobertura.
Por ejemplo, esta secuencia es un objetivo excelente para SMC:
La naturaleza paralela del SMC lo hace particularmente adecuado para la computación distribuida / paralela.
Resumen:
Fuente: La mayoría de las imágenes provienen de un artículo que escribí combinando los 2 métodos (Hamiltoniano secuencial Monte Carlo). Esta combinación puede simular prácticamente cualquier distribución que podamos lanzarle, incluso en dimensiones muy altas.
fuente