Si lo anterior y la probabilidad son muy diferentes entre sí, entonces a veces ocurre una situación en la que el posterior no es similar a ninguno de ellos. Vea, por ejemplo, esta imagen, que usa distribuciones normales. Aunque esto es matemáticamente correcto, no parece estar de acuerdo con mi...
He estado usando distribuciones normales de registro como distribuciones anteriores para parámetros de escala (para distribuciones normales, distribuciones t, etc.) cuando tengo una idea aproximada sobre cuál debería ser la escala, pero quiero equivocarme al decir que no sé mucho al respecto. Lo...
¿Alguien puede explicar cuál es la interpretación natural de los hiperparámetros LDA? ALPHAy BETAson parámetros de distribuciones de Dirichlet para (por documento) tema y (por tema) distribuciones de palabras respectivamente. Sin embargo, ¿alguien puede explicar lo que significa elegir valores más...
Fondo Una de las variaciones previas débiles más comúnmente utilizadas es la gamma inversa con parámetros (Gelman 2006) .α=0.001,β=0.001α=0.001,β=0.001\alpha =0.001, \beta=0.001 Sin embargo, esta distribución tiene un IC del 90% de aproximadamente
Algunas distribuciones tienen anteriores conjugados y otras no. ¿Es esta distinción solo un accidente? Es decir, usted hace los cálculos y funciona de una forma u otra, pero en realidad no le dice nada importante sobre la distribución, excepto por el hecho en sí ¿O la presencia o ausencia de un...
He escuchado la noción de que Jaynes afirma que los frecuentistas operan con un "previo implícito". ¿Qué es o son estos antecedentes implícitos? ¿Significa esto que los modelos frecuentistas son todos casos especiales de modelos bayesianos que esperan ser
A menudo se argumenta que el marco bayesiano tiene una gran ventaja en la interpretación (más frecuente), porque calcula la probabilidad de un parámetro dados los datos - lugar de como en el marco frecuentista. Hasta aquí todo bien.p(θ|x)p(θ|x)p(\theta|x)p(x|θ)p(x|θ)p(x|\theta) Pero, toda la...
En la literatura, a veces me atonto la observación, que elegir los antecedentes que dependen de los datos en sí (por ejemplo, Zellners g-prior) puede ser criticado desde un punto de vista teórico. ¿Dónde está exactamente el problema si lo anterior no se elige independientemente de los...
Es bien sabido que la regresión lineal con una penalización de es equivalente a encontrar la estimación MAP dada una Gaussiana anterior sobre los coeficientes. Del mismo modo, usar una penalización es equivalente a usar una distribución de Laplace como la anterior.l2l2l^2l1l1l^1 No es raro usar...
Estoy volviendo a publicar una "respuesta" a una pregunta que hice hace unas dos semanas aquí: ¿Por qué es útil el Jeffreys anterior? Sin embargo, realmente era una pregunta (y tampoco tenía derecho a publicar comentarios en ese momento), así que espero que esté bien hacer esto: En el enlace...
Estaba leyendo acerca de Jeffreys antes en la wikipedia: Jeffreys Prior y vi que después de cada ejemplo, describe cómo una transformación estabilizadora de la varianza convierte a Jeffreys prior en un uniforme previo. Como ejemplo, para el caso de Bernoulli, establece que para una moneda con cara...
Si tenemos un tamaño de muestra pequeño, ¿influirá mucho la distribución previa en la distribución
Robby McKilliam dice en un comentario a esta publicación: Cabe señalar que, desde el punto de vista de los frecuentistas, no hay razón para que no pueda incorporar el conocimiento previo al modelo. En este sentido, la vista frecuentista es más simple, solo tiene un modelo y algunos datos. No es...
¿Cómo hacemos para calcular un posterior con un N ~ anterior (a, b) después de observar n puntos de datos? Supongo que tenemos que calcular la media muestral y la varianza de los puntos de datos y hacer algún tipo de cálculo que combine lo posterior con lo anterior, pero no estoy muy seguro de cómo...
Esta pregunta se inspiró en dos interacciones recientes que tuve, una aquí en CV y la otra en economics.se. Allí, había publicado una respuesta a la conocida "Paradoja de la envoltura" (fíjate, no como la "respuesta correcta" sino como la respuesta que surge de suposiciones específicas sobre la...
Estoy buscando antecedentes no informativos para que la distribución beta funcione con un proceso binomial (Hit / Miss). Al principio pensé en usar que genera un PDF uniforme, o Jeffrey antes α = 0.5 , β = 0.5 . Pero en realidad estoy buscando antecedentes que tengan el mínimo efecto en los...
Conozco 3 métodos para hacer estimaciones de parámetros, ML, MAP y enfoque de Bayes. Y para el enfoque de MAP y Bayes, tenemos que elegir prioridades para los parámetros, ¿verdad? Digamos que tengo este modelo , en el que son parámetros, para hacer la estimación utilizando MAP o Bayes, leí en el...
En su artículo ampliamente citado Distribuciones previas para parámetros de varianza en modelos jerárquicos (916 citas hasta ahora en Google Scholar) Gelman propone que las distribuciones anteriores no informativas para la varianza en un modelo bayesiano jerárquico son la distribución uniforme y la...
Mi pregunta básica es: ¿cómo tomaría muestras de una distribución incorrecta? ¿Tiene sentido tomar muestras de una distribución incorrecta? El comentario de Xi'an aquí aborda la pregunta, pero estaba buscando más detalles sobre esto. Más específico para MCMC: Al hablar sobre MCMC y leer...
He oído que la regresión de cresta se puede derivar como la media de una distribución posterior, si la anterior se elige adecuadamente. ¿Es la intuición de que las restricciones establecidas en los coeficientes de regresión por el anterior (por ejemplo, distribuciones normales estándar alrededor de...