¿Cuál es la principal diferencia entre la estimación de máxima verosimilitud (MLE) frente a la estimación de mínimos cuadrados (LSE)? ¿Por qué no podemos usar MLE para predecir valores de en regresión lineal y viceversa?yyy Cualquier ayuda sobre este tema será muy
Derivar numéricamente los MLE s de GLMM es difícil y, en la práctica, lo sé, no debemos usar la optimización de la fuerza bruta (por ejemplo, usarla optimde una manera simple). Pero para mi propio propósito educativo, quiero probarlo para asegurarme de que entiendo correctamente el modelo (vea el...
Queridos todos, he notado algo extraño que no puedo explicar, ¿verdad? En resumen: el enfoque manual para calcular un intervalo de confianza en un modelo de regresión logística y la función R confint()dan resultados diferentes. He estado pasando por la regresión logística aplicada de Hosmer &...
Leí esta página: http://neuralnetworksanddeeplearning.com/chap3.html y dijo que la capa de salida sigmoidea con entropía cruzada es bastante similar a la capa de salida softmax con log-verosimilitud. ¿Qué sucede si uso sigmoide con log-verosimilitud o softmax con entropía cruzada en la capa de...
La probabilidad podría definirse de varias maneras, por ejemplo: la función LLL de Θ × XΘ×X\Theta\times{\cal X} que mapea ( θ , x )(θ,x)(\theta,x) a L ( θ ∣ x )L(θ∣x)L(\theta \mid x) es decir, L : Θ × X→ RL:Θ×X→RL:\Theta\times{\cal X} \rightarrow \mathbb{R} . la función aleatoria L ( ⋅ ∣...
Espero que alguien pueda proporcionar una visión general intuitiva de qué es la distribución cuasibinomial y qué hace. Estoy particularmente interesado en estos puntos: Cómo el cuasibinomio difiere de la distribución binomial. Cuando la variable de respuesta es una proporción (los valores de...
Supongamos que tenemos una variable aleatoria . Si fuera el parámetro verdadero, la función de probabilidad debería maximizarse y la derivada igual a cero. Este es el principio básico detrás del estimador de máxima verosimilitud.X∼f(x|θ)X∼f(x|θ)X \sim f(x|\theta)θ0θ0\theta_0 Según tengo entendido,...
Explicaré mi problema con un ejemplo. Suponga que desea predecir el ingreso de un individuo dados algunos atributos: {Edad, Sexo, País, Región, Ciudad}. Tienes un conjunto de datos de entrenamiento como este train <- data.frame(CountryID=c(1,1,1,1, 2,2,2,2, 3,3,3,3), RegionID=c(1,1,1,2,...
He oído hablar de la probabilidad empírica de Owen, pero hasta hace poco no le presté atención hasta que lo encontré en un documento de interés ( Mengersen et al. 2012 ). En mi esfuerzo por comprenderlo, deduje que la probabilidad de los datos observados se representa como , donde y...
Tengo una pregunta simple sobre "probabilidad condicional" y "Probabilidad". (Ya he encuestado esta pregunta aquí, pero fue en vano). Comienza desde la página de Wikipedia sobre la probabilidad . Dicen esto: La probabilidad de un conjunto de valores de parámetros, θθ\theta , dados los...
La estimación de máxima verosimilitud a menudo se traduce en estimadores sesgados (por ejemplo, su estimación de la varianza muestral está sesgada para la distribución gaussiana). ¿Qué lo hace tan popular? ¿Por qué exactamente se usa tanto? Además, ¿qué lo hace en particular mejor que el enfoque...
Tengo una confusión sobre los estimadores sesgados de máxima verosimilitud (ML). La matemática de todo el concepto es bastante clara para mí, pero no puedo entender el razonamiento intuitivo detrás de él. Dado un determinado conjunto de datos que tiene muestras de una distribución, que en sí misma...
En mi curso de estadística elemental, aprendí cómo construir un intervalo de confianza del 95%, como la media de la población, , basada en la normalidad asintótica para tamaños de muestra "grandes". Además de los métodos de remuestreo (como bootstrap), existe otro enfoque basado en la "probabilidad...
Me he encontrado con un par de guías sugiriendo que use R's nlm para la estimación de máxima probabilidad. Pero ninguno de ellos (incluida la documentación de R ) da mucha orientación teórica sobre cuándo usar o no usar la función. Por lo que puedo decir, nlm solo está haciendo un descenso de...
Esta es una pregunta recurrente (vea esta publicación , esta publicación y esta publicación ), pero tengo un giro diferente. Supongamos que tengo un montón de muestras de una muestra genérica de MCMC. Para cada muestra θθ\theta , conozco el valor del log de verosimilitud Iniciar sesiónF( x | θ...
Me pregunto si siempre hay un maximizador para cualquier problema de estimación de probabilidad máxima (log). En otras palabras, ¿hay alguna distribución y algunos de sus parámetros, para los cuales el problema MLE no tiene un maximizador? Mi pregunta proviene de la afirmación de un ingeniero de...
¿Cuáles son los estimadores de máxima verosimilitud para los parámetros de la distribución t de Student? ¿Existen en forma cerrada? Una búsqueda rápida en Google no me dio ningún resultado. Hoy estoy interesado en el caso univariante, pero probablemente tendré que extender el modelo a múltiples...
Recién comencé a estudiar sobre estadísticas y modelos. Actualmente, entiendo que usamos MLE para estimar los mejores parámetros para un modelo. Sin embargo, cuando trato de entender cómo funcionan las redes neuronales, parece que comúnmente usan otro enfoque para estimar los parámetros. ¿Por qué...
¿Por qué es tan común obtener estimaciones de máxima verosimilitud de parámetros, pero prácticamente nunca se oye hablar de las estimaciones esperadas de parámetros de verosimilitud (es decir, en función del valor esperado en lugar del modo de una función de verosimilitud)? ¿Es esto principalmente...
Supongamos que tengo el siguiente modelo yi=f(xi,θ)+εiyi=f(xi,θ)+εiy_i=f(x_i,\theta)+\varepsilon_i donde yi∈RKyi∈RKy_i\in \mathbb{R}^K , xixix_i es un vector de variables explicativas, θθ\theta es los parámetros de la función no lineal fff y εi∼N(0,Σ)εi∼N(0,Σ)\varepsilon_i\sim N(0,\Sigma) ,...