¿Existe un conjugado previo para la distribución de Laplace ? Si no, ¿existe una expresión de forma cerrada conocida que se aproxime a la posterior para los parámetros de la distribución de Laplace?
He buscado mucho en Google sin éxito, así que mi suposición actual es "no" en las preguntas anteriores ...
bayesian
conjugate-prior
laplace-distribution
Rasmus Bååth
fuente
fuente
Respuestas:
Miremos primero uno a la vez (tomando el otro como se indica).
Desde el enlace (con la modificación de seguir la convención de usar símbolos griegos para los parámetros):
- parámetro de escala :
para ciertos valores de y S . Esa es la probabilidad es de forma gamma inversa.k S
Entonces, el parámetro de escala tiene un conjugado previo: mediante inspección, el conjugado anterior es gamma inverso.
- parámetro de ubicación
Esto es, de hecho, más complicado, porque no se simplifica en algo conveniente en μ ; No creo que haya ninguna forma de "recopilar los términos" (bueno, de alguna manera, pero no necesitamos hacerlo de todos modos).∑yoEl | Xyo- μ | μ
Un prior uniforme simplemente truncará el posterior, lo que no es tan malo para trabajar si eso parece plausible como prior.
Una posibilidad interesante que ocasionalmente puede ser útil es que es bastante fácil incluir un Laplace anterior (uno con la misma escala que los datos) mediante el uso de una pseudo-observación. También se puede aproximar algún otro (más estricto) antes a través de varias pseudoobservaciones)
También es lo suficientemente flexible como para usarse para aproximarse a otros antecedentes.
(En términos más generales, uno podría trabajar en la escala logarítmica y utilizar un logaritmo cóncavo continuo continuo, lineal y por partes, y el posterior también sería de esa forma; esto incluiría a Laplace asimétrica como un caso especial)
Ejemplo
Solo para mostrar que es bastante fácil de tratar: a continuación se muestra una probabilidad anterior (gris punteada), probable (discontinua, negra) y posterior (sólida, roja) para el parámetro de ubicación para un Laplace ponderado (... esto fue con escalas conocidas )
Creo que el enfoque ponderado de Laplace funcionaría bien en MCMC.
-
Me pregunto si el modo del posterior resultante es una mediana ponderada.
- en realidad (para responder mi propia pregunta), parece que la respuesta a eso es 'sí'. Eso hace que sea bastante agradable trabajar con él.
-
Conjunto previo
Sin duda, algo más general para el prior conjunto es bastante posible, pero no creo que continúe con el caso conjunto más allá de eso aquí.
-
Nunca antes había visto ni oído hablar de este enfoque previo de laplace ponderada, pero fue bastante simple de inventar, por lo que probablemente ya se haya hecho. (Las referencias son bienvenidas, si alguien sabe de alguna).
Si nadie sabe de ninguna referencia, tal vez debería escribir algo, pero eso sería sorprendente.
fuente