Una distribución de mezcla es aquella que se escribe como una combinación convexa de otras distribuciones. Utilice la etiqueta "distribuciones compuestas" para "concatenaciones" de distribuciones (donde un parámetro de una distribución es en sí mismo una variable aleatoria).
Digamos que tengo dos distribuciones normales A y B con medias y y varianzas y . Quiero tomar una mezcla ponderada de estas dos distribuciones usando pesos y donde y . Sé que la media de esta mezcla sería .μ B σ A σ B p q 0 ≤ p ≤ 1 q = 1 - p μ A B = ( p × μ A ) + ( q × μ B...
Queridos todos, he notado algo extraño que no puedo explicar, ¿verdad? En resumen: el enfoque manual para calcular un intervalo de confianza en un modelo de regresión logística y la función R confint()dan resultados diferentes. He estado pasando por la regresión logística aplicada de Hosmer &...
Tengo un conjunto de datos X que tiene 10 dimensiones, 4 de las cuales son valores discretos. De hecho, esas 4 variables discretas son ordinales, es decir, un valor más alto implica una semántica más alta / mejor. 2 de estas variables discretas son categóricas en el sentido de que para cada una de...
Estoy leyendo el algoritmo Bishop en EM para GMM y la relación entre GMM y k-means. En este libro dice que k-means es una versión difícil de GMM. Me pregunto si eso implica que si los datos que intento agrupar no son gaussianos, no puedo usar k-means (o al menos no es adecuado). Por ejemplo, ¿qué...
Esta pregunta se migró de Mathematics Stack Exchange porque se puede responder en Cross Validated. Migrado hace 6 años . En el enfoque del algoritmo EM, utilizamos la desigualdad de Jensen para llegar aIniciar sesiónp ( x | θ ) ≥ ∫Iniciar sesiónp ( z, x | θ ) p ( zEl | x,...
Quiero implementar el algoritmo EM manualmente y luego compararlo con los resultados normalmixEMdel mixtoolspaquete. Por supuesto, sería feliz si ambos conducen a los mismos resultados. La referencia principal es Geoffrey McLachlan (2000), Modelos de mezclas finitas . Tengo una densidad de mezcla...
¿Cómo puedo tomar muestras de una distribución de mezcla, y en particular una mezcla de distribuciones normales en R? Por ejemplo, si quisiera probar de: 0.3×N(0,1)+0.5×N(10,1)+0.2×N(3,.1)0.3×N(0,1)+0.5×N(10,1)+0.2×N(3,.1) 0.3\!\times\mathcal{N}(0,1)\; + \;0.5\!\times\mathcal{N}(10,1)\; +...
Considere la probabilidad logarítmica de una mezcla de gaussianos: l ( Snorte; θ ) = ∑t = 1norteIniciar sesiónF( x(t)|θ)=∑t=1nlog{∑i=1kpif(x(t)|μ(i),σ2i)}l(Snorte;θ)=∑t=1norteIniciar sesiónF(X(t)El |θ)=∑t=1norteIniciar sesión{∑yo=1kpagyoF(X(t)El |μ(yo),σyo2)}l(S_n; \theta) = \sum^n_{t=1}\log...
Siento que he visto este tema discutido aquí antes, pero no pude encontrar nada específico. Por otra parte, tampoco estoy muy seguro de qué buscar. Tengo un conjunto unidimensional de datos ordenados. Supongo que todos los puntos del conjunto se extraen de la misma distribución. ¿Cómo puedo...
Hay mucha literatura que enfatiza el método de maximización de expectativas en los modelos de mezcla (mezcla de Gauss, modelo oculto de Markov, etc.). ¿Por qué EM es importante? EM es solo una forma de hacer optimización y no se usa ampliamente como método basado en gradiente (gradiente decente o...
En el capítulo 9 del libro Reconocimiento de patrones y aprendizaje automático, hay esta parte sobre el modelo de mezcla gaussiana: Para ser honesto, realmente no entiendo por qué esto crearía una singularidad. ¿Puede alguien explicarme esto? Lo siento, pero solo soy un estudiante universitario...
Tengo dos variables: X e Y, y necesito hacer que el clúster sea máximo (y óptimo) = 5. La gráfica ideal de variables es la siguiente: Me gustaría hacer 5 grupos de esto. Algo como esto: Por lo tanto, creo que este es un modelo de mezcla con 5 grupos. Cada grupo tiene un punto central y un...
Las pruebas de permutación (también llamadas prueba de aleatorización, prueba de aleatorización o prueba exacta) son muy útiles y resultan útiles cuando t-testno se cumple el supuesto de distribución normal requerido por ejemplo y cuando se transforman los valores mediante la clasificación de...
El cambio de etiqueta (es decir, la distribución posterior es invariante al cambio de etiquetas de componentes) es un problema problemático cuando se usa MCMC para estimar modelos de mezcla. ¿Existe una metodología estándar (como la ampliamente aceptada) para tratar el problema? Si no existe un...
Parece haber mucha confusión en la comparación de usar glmnetdentro caretpara buscar una lambda óptima y usar cv.glmnetpara hacer la misma tarea. Se plantearon muchas preguntas, por ejemplo: Modelo de clasificación train.glmnet vs. cv.glmnet? ¿Cuál es la forma correcta de usar glmnet con...
Quiero incluir el tiempo dedicado a hacer algo (semanas de lactancia materna, por ejemplo) como una variable independiente en un modelo lineal. Sin embargo, algunas observaciones no se involucran en el comportamiento en absoluto. Codificarlos como 0 no es realmente correcto, porque 0 es...
Los modelos de mezcla gaussiana (GMM) son atractivos porque son fáciles de trabajar tanto en el análisis como en la práctica, y son capaces de modelar algunas distribuciones exóticas sin demasiada complejidad. Hay algunas propiedades analíticas que deberíamos tener que no están claras en general....
Mientras probaba los modelos de mezcla gaussiana aquí , encontré estos 4 tipos de covarianzas. 'full' (each component has its own general covariance matrix), 'tied' (all components share the same general covariance matrix), 'diag' (each component has its own diagonal covariance...
Supongamos que tenemos un conjunto de puntos . Cada punto se genera utilizando la distribución Para obtener posterior para escribimos De acuerdo con el documento de Minka en Expectativa Propagación tenemos cálculos para obtener posterior y, así, se convierte en un problema insoluble para grandes...
Sé que una suma de gaussianos es gaussiana. Entonces, ¿en qué se diferencia una mezcla de gaussianos? Quiero decir, una mezcla de gaussianos es solo una suma de gaussianos (donde cada gaussiano se multiplica por el coeficiente de mezcla respectivo)