¿Por qué la intercambiabilidad de variables aleatorias es esencial en los modelos bayesianos jerárquicos?

¿Por qué la intercambiabilidad de variables aleatorias es esencial para el modelado bayesiano jerárquico?

La intercambiabilidad no es una característica esencial de un modelo jerárquico (al menos no a nivel de observación). Básicamente es un análogo bayesiano de "independiente e idénticamente distribuido" de la literatura estándar. Es simplemente una forma de describir lo que sabe sobre la situación en cuestión. Esto es a saber que "barajar" no altera su problema. Una forma en que me gusta pensar en esto es considerar el caso en el que se le dio pero no se le dijo el valor de . Si aprender que lo llevaría a sospechar valores particulares de más que otros, entonces la secuencia no es intercambiable. Si no te dice nada sobre$x_{j}=5$$j$$x_{j}=5$$j$$j$, entonces la secuencia es intercambiable. Tenga en cuenta que la capacidad de intercambio es "en la información" en lugar de "en la realidad", depende de lo que sabe.

Si bien la intercambiabilidad no es esencial en términos de las variables observadas, probablemente sería bastante difícil ajustar cualquier modelo sin alguna noción de intercambiabilidad, porque sin la intercambiabilidad básicamente no tiene justificación para agrupar las observaciones. Entonces, supongo que sus inferencias serán mucho más débiles si no tiene intercambiabilidad en algún lugar del modelo. Por ejemplo, considere para . Si son completamente intercambiables, esto significa y . Si son condicionalmente intercambiables dado entonces esto significa$x_{i}\sim N(\mu_{i},\sigma_{i})$$i=1,\dots,N$$x_{i}$$\mu_{i}=\mu$$\sigma_{i}=\sigma$$x_{i}$$\mu_{i}$$\sigma_{i}=\sigma$. Si son condicionalmente intercambiables dado entonces esto significa . Pero tenga en cuenta que en cualquiera de estos dos casos "condicionalmente intercambiables", la calidad de la inferencia se reduce en comparación con el primero, porque hay un parámetro adicional de que se introduce en el problema. Si no tenemos intercambiabilidad, entonces básicamente tenemos problemas no relacionados.$x_{i}$$\sigma_{i}$$\mu_{i}=\mu$$N$$N$

Básicamente, la intercambiabilidad significa que podemos hacer la inferencia para cualquier y que sean parcialmente intercambiables i $x_{i}\to \text{parameters}\to x_{j}$$i$$j$

"Esencial" es demasiado vago. Pero al suprimir los tecnicismos, si la secuencia es intercambiable, entonces los son condicionalmente independientes dados algunos parámetros no observados con una distribución de probabilidad . Es decir, . no necesita ser univariada o incluso de dimensión finita y puede representarse además como una mezcla, etc.X i Θ π p ( X ) = ∫ p ( X i | Θ ) d π ( Θ ) $X=\{X_i\}$$X_i$$\Theta$$\pi$$p(X) = \int p(X_i|\Theta)d\pi(\Theta)$$\Theta$

La intercambiabilidad es esencial en el sentido de que estas relaciones de independencia condicional nos permiten adaptarnos a modelos que seguramente no podríamos de otra manera.

No lo es! No soy un experto aquí, pero daré mis dos centavos. En general, cuando tiene un modelo jerárquico, diga

$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$

$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$

Hacemos supuestos de independencia condicional, es decir, condicional en , los son intercambiables. Si el segundo nivel no es intercambiable, puede incluir otro nivel que lo haga intercambiable. Pero incluso en el caso de que no se pueda suponer la excelencia, el modelo puede ser un buen ajuste a sus datos en el primer nivel. Θ $\Theta_{2}$$\Theta_{1}$

Por último, pero no menos importante, la intercambiabilidad es importante solo si quieres pensar en términos del teorema de representación de De Finetti. Podrías pensar que los anteriores son herramientas de regularización que te ayudan a adaptar tu modelo. En este caso, el supuesto de intercambiabilidad es tan bueno como su modelo se ajusta a los datos. En otras palabras, si piensa en el modelo jerárquico bayesiano como una forma de adaptarse mejor a sus datos, la intercambiabilidad no es esencial en ningún sentido.