Rastreo de probabilidad extraño de la cadena MCMC

8

Tengo un modelo que va: Single parameter -> Complex likelihood function -> Log-likelihood. Ejecuté una cadena MCMC (usando pymc) y tracé el rastro del parámetro y la probabilidad logarítmica. La estimación del parámetro terminó siendo razonable, pero el gráfico de probabilidad de registro me parece extraño.

ingrese la descripción de la imagen aquí

La probabilidad de registro nunca supera un cierto valor. Supongo que esto tiene sentido, si ese valor es el valor de máxima probabilidad, pero nunca he visto un rastro de probabilidad que se vea así antes. mi pregunta es: ¿es esto normal?

C_Z_
fuente
Respondí tu pregunta, pero veo que empezaste una recompensa por ello. ¿Significa que mi respuesta no es satisfactoria y que está buscando algo más? Si es así, ¿por qué no respondió su pregunta? ¿Qué tipo de respuesta estás buscando? Me encantaría editarlo si no estaba claro, etc.
Tim
Difícil de responder sin conocer más detalles sobre su problema. Aparte de Q0, ¿cuál es tu espacio de estado? ¿Qué método MCMC estás usando? Si amplía la traza de probabilidad de registro, ¿oscila por debajo del máximo (con pequeñas oscilaciones) o realmente obtiene muchas muestras en el valor máximo? ¿Algún detalle que pueda tener sobre la probabilidad?
lacerbi

Respuestas:

5

La probabilidad de registro es una suma de densidades de registro sobre algunos puntos de datos, dados algunos valores de parámetros. Recuerde que las densidades son medidas relativas de "probabilidad por pie" . Esto significa que pueden ser arbitrariamente bajos o altos, como en este ejemplo de densidad uniforme . Como sumas estimaciones de densidad para diferentes puntos, siempre serán al menosNveces el valor mínimo que es posible dados sus datos y parámetros. Dado que su algoritmo MCMC vaga por algún espacio de parámetros, la similitud de las probabilidades de registro sería proporcional a cuán "lejos" salta en los pasos posteriores. Entonces, dada la información limitada que proporcionó, no hay nada extraño en dichos valores, ya que no hay valores de probabilidad "típicos".

Tim
fuente