¿Cuál es el valor esperado de la distribución Dirichlet modificada? (problema de integración)

Es fácil producir una variable aleatoria con distribución de Dirichlet usando variables Gamma con el mismo parámetro de escala. Si:

$X_i \sim \text{Gamma}(\alpha_i, \beta)$

Luego:

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n)$

Problema ¿Qué sucede si los parámetros de la escala no son iguales?

$X_i \sim \text{Gamma}(\alpha_i, \beta_i)$

Entonces, ¿cuál es la distribución de esta variable?

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \; ?$

Para mí sería suficiente saber el valor esperado de esta distribución.
Necesito una fórmula algebraica cerrada aproximada que pueda ser evaluada muy rápidamente por una computadora.
Digamos que una aproximación con una precisión de 0.01 es suficiente.
Puedes asumir que:

$\alpha_i, \beta_i \in \mathbb{N}$

Nota En resumen, la tarea es encontrar una aproximación de esta integral:

$f(\vec{\alpha}, \vec{\beta}) = \int_{\mathbb{R}^n_+} \;\frac{x_1}{\sum_j x_j} \cdot \prod_j \frac{\beta_j^{\alpha_j}}{\Gamma(\alpha_j)} x_j^{\alpha_j - 1} e^{-\beta_j x_j} \;\; dx_1\ldots dx_n$

expected-value dirichlet-distribution gamma-distribution integral Łukasz Lew
fuente

@ Łukasz ¿Puedes decir algo más sobre los parámetros

? Es posible obtener expresiones exactas para

y, por lo tanto, aproximar las expectativas de las proporciones, pero para ciertas combinaciones de los parámetros uno podría explotar aproximaciones normales o de punto de silla de montar con menos trabajo. No creo que haya un método de aproximación universal, por lo que serían bienvenidas restricciones adicionales.

n

$n$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

\sum_{j} X_{j}

$\sum_j{X_j}$

whuber

están correlacionados, por lo que tenemos que aproximar la integral en sí.

es a menudo un número pequeño como 1 o 2 y, a veces, tan grande como 10000. De manera similar con

pero generalmente es 10 veces más grande que

X_{1}

$X_1$

\sum_{j} X_{j}

$\sum_j X_j$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

α_{i}

$\alpha_i$

Łukasz Lew

El problema es con una pequeña

. Si todos los

son grandes, entonces la buena aproximación de toda la integral es:

α_{i}

$\alpha_i$

α_{i}

$\alpha_i$

\frac{α_{1} / β_{1}}{\sum_{j} α_{j} / β_{j}}

$\frac{\alpha_1/\beta_1}{\sum_j \alpha_j/\beta_j}$

Łukasz Lew

@ Łukasz Si necesita evaluar la expresión de la expectativa, ¿por qué necesita una fórmula algebraica? Estoy pensando en la aplicación de un truco numérico obtener la confianza pero necesito algunos comentarios :)

deps_stats

Necesito evaluarlo muchas veces en mi programa. Tiene que ser muy rápido, es decir, sin bucles y preferiblemente sin demasiadas divisiones.

Łukasz Lew

Respuestas:

Solo una observación inicial, si desea velocidad de cálculo, generalmente tiene que sacrificar la precisión. "Más precisión" = "Más tiempo" en general. De todos modos, aquí hay una aproximación de segundo orden, debería mejorar el "crudo" aproximado que sugirió en su comentario anterior:

E (\frac{X_{j}}{\sum_{i} X_{i}}) \approx \frac{E [X_{j}]}{E [\sum_{i} X_{i}]} - \frac{c o v [\sum_{i} X_{i}, X_{j}]}{E [\sum_{i} X_{i}]^{2}} + \frac{E [X_{j}]}{E [\sum_{i} X_{i}]^{3}} V a r [\sum_{i} X_{i}]

$E\Bigg(\frac{X_{j}}{\sum_{i}X_{i}}\Bigg)\approx \frac{E[X_{j}]}{E[\sum_{i}X_{i}]} -\frac{cov[\sum_{i}X_{i},X_{j}]}{E[\sum_{i}X_{i}]^2} +\frac{E[X_{j}]}{E[\sum_{i}X_{i}]^3} Var[\sum_{i}X_{i}]$

= \frac{α_{j}}{\sum_{i} \frac{β_{j}}{β_{i}} α_{i}} \times [1 - \frac{1}{(\sum_{i} \frac{β_{j}}{β_{i}} α_{i})} + \frac{1}{(\sum_{i} \frac{α_{i}}{β_{i}})^{2}} (\sum_{i} \frac{α_{i}}{β_{i}^{2}})]

$= \frac{\alpha_{j}}{\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}}\times\Bigg[1 - \frac{1}{\Bigg(\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}\Bigg)} + \frac{1}{\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}}\Bigg)^2}\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}^2}\Bigg)\Bigg]$

EDIT An explanation for the above expansion was requested. The short answer is wikipedia. The long answer is given below.

write $f(x,y)=\frac{x}{y}$ . Now we need all the "second order" derivatives of $f$ . The first order derivatives will "cancel" because they will all involve multiples $X-E(X)$ and $Y-E(Y)$ which are both zero when taking expectations.

\frac{\partial^{2} f}{\partial x^{2}} = 0

$\frac{\partial^2 f}{\partial x^2}=0$

\frac{\partial^{2} f}{\partial x \partial y} = - \frac{1}{y^{2}}

$\frac{\partial^2 f}{\partial x \partial y}=-\frac{1}{y^2}$

\frac{\partial^{2} f}{\partial y^{2}} = 2 \frac{x}{y^{3}}

$\frac{\partial^2 f}{\partial y^2}=2\frac{x}{y^3}$

And so the taylor series up to second order is given by:

\frac{x}{y} \approx \frac{μ_{x}}{μ_{y}} + \frac{1}{2} (- \frac{1}{μ_{y}^{2}} 2 (x - μ_{x}) (y - μ_{y}) + 2 \frac{μ_{x}}{μ_{y}^{3}} (y - μ_{y})^{2})

$\frac{x}{y} \approx \frac{\mu_x}{\mu_y}+\frac{1}{2}\Bigg(-\frac{1}{\mu_y^2}2(x-\mu_x)(y-\mu_y) + 2\frac{\mu_x}{\mu_y^3}(y-\mu_y)^2 \Bigg)$

Taking expectations yields:

E [\frac{x}{y}] \approx \frac{μ_{x}}{μ_{y}} - \frac{1}{μ_{y}^{2}} E [(x - μ_{x}) (y - μ_{y})] + \frac{μ_{x}}{μ_{y}^{3}} E [(y - μ_{y})^{2}]

$E\Big[\frac{x}{y}\Big] \approx \frac{\mu_x}{\mu_y}-\frac{1}{\mu_y^2}E\Big[(x-\mu_x)(y-\mu_y)\Big] + \frac{\mu_x}{\mu_y^3}E\Big[(y-\mu_y)^2\Big]$

Which is the answer I gave. (although I initially forgot the minus sign in the second term)

probabilityislogic
fuente

This looks like exactly what I need. Can you explain how you got this expansion? I tried in a lot of ways and was unable to do that ...

Łukasz Lew