Cuando se realiza una regresión lineal bayesiana, hay que asignar un previa para la pendiente y la intersección . Como es un parámetro de ubicación, tiene sentido asignar un uniforme previo; sin embargo, me parece que es similar a un parámetro de escala y no parece natural asignarle un uniforme antes.
Por otro lado, no parece correcto asignar el habitual Jeffrey anterior ( ) no informativo para una pendiente de una regresión lineal. Por un lado, puede ser negativo. Pero no veo qué más podría ser.
Entonces, ¿cuál es el "desinformativo" previo adecuado para la pendiente de una regresión lineal bayesiana? (Cualquier referencia sería apreciada).
regression
bayesian
uninformative-prior
lindelof
fuente
fuente
Respuestas:
De Bayesian Data Analysis 3rd ed., P. 355:
( refiere a los regresores). El libro contiene una discusión adicional útil más allá del alcance de esta pregunta: cuando este prior es útil, cuando otros son más adecuados, su posterior y la comparación con las estimaciones clásicas.X
fuente
Los bayesianos normalmente eligen los antecedentes que hacen que su vida matemáticamente desafiante sea más fácil de soportar. Esto significa antecedentes gaussianos, a menos que el modelo lo prohíba absolutamente. Recuerde que necesita un previo bivariado en su situación, ya que debe modelar la correlación entre la pendiente y la ubicación, así como sus comportamientos marginales. La normalidad multivariante es su boleto.
Un previo gaussiano sobre los parámetros combina perfectamente con el error de medición gaussiano (sin duda) que ya tiene su modelo de regresión.
Por cierto, no asocio pendientes con parámetros de escala, ya que las pendientes pueden ser negativas y los parámetros de escala no.
Ahora, la distribución gaussiana no es un previo poco informativo, pero si realmente no tiene información previa, tal vez debería ser frecuente. O use un gaussiano con una variación muy grande.
No conozco una referencia moderna a la inferencia bayesiana. A riesgo de usar una bazuca para disparar a un conejo, puedes buscar a Rasmussen y Williams, que está disponible en línea . La primera sección del capítulo 2 pasa por la regresión bayesiana con cierto detalle.
fuente
Por lo general, se usa un previo uniforme en la pendiente y el desplazamiento, sin embargo, me gusta la idea de poner anteriores planos en y siendo el ángulo entre línea y y = 0. Esto da un previo de que favorece las pendientes alrededor de cero. Esto se deriva en http://jakevdp.github.io/blog/2014/06/14/frequentism-and-bayesianism-4-bayesian-in-python/#The-Prior , y Frequentism and Bayesianism: A Python-driven Imprimación de Jake Vanderblas b cos theta theta p ( un , b ) = ( 1 + a 2 ) - 3 / 2tan−1(a) bcosθ θ
fuente