Hace poco leí sobre Bayes empírico (Casella, 1985, Introducción al análisis de datos empíricos de Bayes) y se parecía mucho al modelo de efectos aleatorios; en eso ambos tienen estimaciones reducidas a la media global. Pero no lo he leído completamente ... ¿Alguien tiene alguna idea sobre la...
Estoy leyendo sobre la inferencia bayesiana y me encontré con la frase "la integración numérica de la probabilidad marginal es demasiado costosa" No tengo experiencia en matemáticas y me preguntaba qué significa exactamente caro aquí. ¿Es solo en términos de potencia de cálculo o hay algo más?...
Se considera el caso ideal en el que la estructura de probabilidad subyacente a las categorías se conoce perfectamente. ¿Por qué con el clasificador Bayes logramos el mejor rendimiento que se puede lograr? ¿Cuál es la prueba / explicación formal de esto? Como siempre usamos el clasificador Bayes...
Soy un principiante en estadística (solo tomé un curso universitario), pero tengo experiencia en programación. Acabo de empezar a jugar con una biblioteca clasificadora bayesiana para Ruby y estoy buscando ideas para analizar. En este momento estoy jugando con la categorización de Tweet, pero...
He estado leyendo Wagenmakers (2007) Una solución práctica al problema generalizado de los valores de p . Me intriga la conversión de los valores BIC en factores y probabilidades de Bayes. Sin embargo, hasta ahora no tengo una buena idea de qué es exactamente una información de unidad anterior . Le...
Estoy tratando de entender el resultado del Teorema de Bayes aplicado al clásico ejemplo de mamografía, con un giro perfecto de la mamografía. Es decir, Incidencia de cáncer:.01.01.01 Probabilidad de una mamografía positiva, dado que la paciente tiene cáncer:111 Probabilidad de una mamografía...
Estoy leyendo este documento sobre Procesos Wishart Generalizados (GWP). El documento calcula las covarianzas entre diferentes variables aleatorias (siguiendo el Proceso Gaussiano ) utilizando la función de covarianza exponencial al cuadrado, es decir, . Luego dice que esta matriz de covarianza...
Estoy trabajando con datos desequilibrados, donde hay alrededor de 40 casos de clase = 0 para cada clase = 1. Puedo discriminar razonablemente entre las clases usando características individuales, y entrenar a un ingenuo clasificador Bayes y SVM en 6 características y datos balanceados arrojaron...
Configuración del problema Uno de los primeros problemas con los juguetes a los que quería aplicar PyMC es la agrupación no paramétrica: dado algunos datos, modelarlo como una mezcla gaussiana y conocer el número de grupos y la media y covarianza de cada grupo. La mayor parte de lo que sé sobre...
Estoy leyendo sobre Bayes variacional, y según tengo entendido, todo se reduce a la idea de que aproximas (donde son las variables latentes de tu modelo los datos observados) con una función , suponiendo que factoriza como donde es un subconjunto de las variables latentes. Entonces se puede...
El Proceso de Dirichlet y el Proceso Gaussiano a menudo se denominan "distribuciones sobre funciones" o "distribuciones sobre distribuciones". En ese caso, ¿puedo hablar significativamente sobre la densidad de una función en un GP? Es decir, ¿el Proceso Gaussiano o el Proceso de Dirichlet tienen...
He estado implementando un VAE y he notado dos implementaciones diferentes en línea de la divergencia KL gaussiana univariada simplificada. La divergencia original según aquí es Si suponemos que nuestro anterior es una unidad gaussiana, es decir,μ2=0yσ2=1, esto se simplifica a KLloss=-log(σ1)+σ...
He estado trabajando con la lógica difusa (FL) durante años y sé que hay diferencias entre FL y probabilidad, especialmente en lo que respecta a la forma en que FL aborda la incertidumbre. Sin embargo, me gustaría preguntar ¿qué más diferencias existen entre FL y probabilidad? En otras palabras,...
¿Cuál es la diferencia entre la codificación automática Bayes variacional y la retropropagación estocástica para modelos generativos profundos ? ¿La inferencia en ambos métodos conduce a los mismos resultados? No conozco ninguna comparación explícita entre los dos métodos, a pesar de que ambos...
Este es el resultado de tendencias de Google obtenido para la frase "Naive Bayes" de enero de 2004 a abril de 2017 ( enlace ). Según esta cifra, el índice de búsqueda de "Naive Bayes" en abril de 2017 es aproximadamente un 25% mayor que el máximo en todo el período de tiempo. ¿Esto implica que este...
Desde un punto de vista matemático, el teorema de Bayes tiene mucho sentido para mí (es decir, derivar y probar), pero lo que no sé es si existe o no un argumento geométrico o gráfico agradable que pueda demostrarse para explicar el teorema de Bayes. Intenté buscar en Google una respuesta a esto y,...
He leído clasificadores algebraicos: un enfoque genérico para la validación cruzada rápida, la capacitación en línea y la capacitación paralela, y me sorprendió el desempeño de los algoritmos derivados. Sin embargo, parece que más allá de Naive Bayes (y GBM) no hay muchos algoritmos adaptados al...
Estoy trabajando a través de Think Bayes (gratis aquí: http://www.greenteapress.com/thinkbayes/ ) y estoy en el ejercicio 3.1. Aquí hay un resumen del problema: "Un ferrocarril numera sus locomotoras en el orden 1..N. Un día ves una locomotora con el número 60. Estima cuántas locomotoras tiene el...
Estoy trabajando en un problema de inferencia de alta dimensión (alrededor de 2000 parámetros del modelo) para el cual somos capaces de realizar una estimación MAP de manera sólida al encontrar el máximo global del log-posterior utilizando una combinación de optimización basada en gradiente y un...
Actualmente estoy viendo un documento del modelo de efectos aleatorios del proceso de Dirichlet y la especificación del modelo es la siguiente: dondeαes el parámetro de escala yG0es la medida base. Más adelante en el artículo, sugiere que integremos una función sobre la medida baseG0como ∫f(y j...