Poner un previo en el parámetro de concentración en un proceso de Dirichlet

La mayor parte de esto es de fondo, salte al final si ya sabe lo suficiente sobre las mezclas de proceso de Dirichlet . Supongamos que estoy modelando algunos datos como provenientes de una mezcla de procesos de Dirichlet, es decir, deje que y condicional en supongaF Y i i i d ∼ ∫ f ( y | θ ) F ( d θ ) $F \sim \mathcal D(\alpha H)$$F$

$$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$$

Aquí y es la medida base previa. Resulta que si para cada observación , si conozco el latente asociado , la probabilidad de en este modelo es donde es el número de valores distintos de (la medida aleatoria es discreta casi con seguridad). Escobar y West desarrollan el siguiente esquema para muestrear usando un Gamma previo; primero escribenα H Y i θ i α L ( α | t ) ∝ α t Γ ( α $\alpha > 0$$\alpha H$$Y_i$$\theta_i$$\alpha$ tθiFαπ(α|t)∝π(α)αtΓ(α

$$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$$ $t$$\theta_i$$F$$\alpha$ $$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$$ donde es la función beta. Luego, tenga en cuenta que si introducimos un parámetro latente entonces la probabilidad tiene la forma de una mezcla de distribuciones Gamma y la usamos para escribir una muestra de Gibbs.X ∼ Beta ( α + 1 , n $B(\cdot, \cdot)$$X \sim \mbox{Beta}(\alpha + 1, n )$

Ahora mi pregunta. ¿Por qué no podemos simplemente escribir y en lugar de utilizar una mezcla de distribuciones Gamma, ¿utiliza una única distribución Gamma? Si presentamos ¿no debería ser capaz de hacer lo mismo pero sin necesidad de usar la mezcla?

$$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$$ $X \sim \mbox{Beta}(\alpha, n)$

Editar para obtener más detalles Más detalles: para completar algunos huecos, el argumento en Escobar y West es que, dejando que tenga una distribución Gamma con forma y signifique , y así podemos introducir una latente para queLos condicionales completos son una distribución para y una mezcla de a y a$\alpha$$a$$a / b$

$$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$$ $X$ $$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$$ $\mbox{Beta}(\alpha + 1, n)$$X$$\mathcal G(a + t, b - \log(x))$$\mathcal G(a + t - 1, b - \log(x))$ para .$\alpha$

Por el mismo argumento, obtuve el mismo resultado pero con para y para . Esto me parece más fácil; ¿Por qué no hacen eso?$\mbox{Beta}(\alpha, n)$$X$$\mathcal G(a + t, b - \log(x))$$\alpha$

No veo cómo lo que has escrito es fundamentalmente diferente de Escobar y West.

$$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ donde la penúltima línea es como la tienes y la última línea es como E&W y son iguales desde n) \ end {eqnarray *} recordando que Γ(z+1)=zΓ(z $$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $\Gamma(z+1) = z\Gamma(z)$ .

Supongo que prefirieron su formulación sobre la suya porque solo tiene el término de función Beta, no el producto de una Beta y una Gamma, pero podría estar equivocado. No seguí el último bit que escribiste, ¿podrías ser más explícito sobre tu esquema de muestreo?