Estimación bayesiana de los parámetros de distribución de Dirichlet

Quiero estimar los parámetros de los modelos de mezcla de Dirichlet usando el muestreo de Gibbs y tengo algunas preguntas al respecto:

¿Es una mezcla de distribuciones de Dirichlet equivalente a un proceso de Dirichlet? ¿Cuáles son sus principales diferencias si no es así?
Además, si quiero estimar los parámetros de una sola distribución de Dirichlet, ¿qué distribución de parámetros debería seleccionarse como prioritarios en el marco bayesiano?

En todos los artículos encontré una estimación de una distribución multinomial utilizando los antecedentes de Dirichlet. Necesito la estimación de una distribución de Dirichlet usando anteriores multinomiales, tal vez.

¿Es la función posterior también en forma de DIRICHLET (α + N) similar al caso “estimación de distribución multinomial utilizando los antecedentes de Dirichlet”? como la multiplicación de la función de densidad de probabilidad para muestras iid no se considera en la definición de la función de probabilidad. De nuevo no puedo entender por qué.

por ejemplo, como se expresa en este documento: http://www.stat.ufl.edu/~aa/cda/bayes.pdf o http://research.microsoft.com/en-us/um/people/minka/papers/ minka-multinomial.pdf

así que gracias por tu atención

mis datos son Hyperion (una especie de imágenes de teledetección hiperespectral) y deseo realizar la desmezcla hiperespectral utilizando una mezcla de fuentes de Dirichlet y aplicaré el método de muestreo de Gibbs para la estimación de parámetros. mis datos están en dimensión (614 * 512 * 224), que son datos de sensores AVIRIS comúnmente disponibles para el distrito de Cuprite Nevada y son casi 200 MB. También estos datos están disponibles en ( http://aviris.jpl.nasa.gov/data/free_data.html ). lamentablemente no sé cómo puedo enviar mis datos.

Solo le pido que me ayude en las tareas de modelado estadístico para mi tesis de doctorado. Estaré muy agradecido si me ayudas a resolver mis confusiones en el modelaje.

todo lo mejor solmaz

bayesian estimation gibbs dirichlet-distribution Solmaz
fuente

En el caso unidimensional, la distribución de Dirichlet es una distribución Beta, y la inferencia bayesiana sobre los parámetros Beta no es un problema bien conocido.

Stéphane Laurent

1: No 2: No existe un previo convencional para los parámetros de Dirichlet (ver aquí para una discusión). Sin embargo, como señaló @Zen, debe proporcionar más información sobre los datos que tiene y el objetivo de su análisis si desea un mejor asesoramiento.

jerad

Para calcular la densidad de cualquier conjugado previo ver aquí .

Sin embargo, no es necesario evaluar el conjugado antes del Dirichlet para realizar una estimación bayesiana de sus parámetros. Simplemente promedie las estadísticas suficientes de todas las muestras, que son los vectores de probabilidades de registro de los componentes de sus parámetros de distribución categórica observados. Este promedio estadístico suficiente son los parámetros de expectativa de la máxima probabilidad de que Dirichlet se ajuste a los datos. $(\chi_i)_{i=1}^n$ . Para pasar de los parámetros de expectativas a los parámetros de origen, digamos $(\alpha_i)_{i=1}^n$ , necesitas resolver usando métodos numéricos:

\begin{aligned} χ_{yo} = ψ (α_{yo}) - ψ (\sum_{j} α_{j}) \forall yo \end{aligned}

$\begin{align} \chi_i = \psi(\alpha_i) - \psi\left(\sum_j\alpha_j\right) \qquad \forall i \end{align}$ dónde

ψ

$\psi$ es la función digamma.

Para responder a su primera pregunta, una mezcla de Dirichlets no es Dirichlet porque, por un lado, puede ser multimodal.

Neil G
fuente

Estimación bayesiana de los parámetros de distribución de Dirichlet

Respuestas: