En general maximizamos una función L ( θ ;X1, ... ,Xnorte) =∏i = 1norteF(Xyo∣ θ )L(θ;x1,…,xn)=∏i=1nf(xi∣θ) L(\theta; x_1, \ldots, x_n) = \prod_{i=1}^n f(x_i \mid \theta) donde es función de densidad de probabilidad si la distribución subyacente es continua, y una función de masa de probabilidad...
Tengo una función de probabilidad L(d|θ)L(d|θ)\mathcal{L}(d | \theta) para la probabilidad de mis datos ddd dados algunos parámetros del modelo θ∈RNθ∈RN\theta \in \mathbf{R}^N , que me gustaría estimar. Suponiendo anteriores planos sobre los parámetros, la probabilidad es proporcional a la...
Estoy tratando de planificar un plan de estudio para aprender MLE. Para hacer esto, estoy tratando de averiguar cuál es el nivel mínimo de cálculo que es necesario para comprender MLE. ¿Es suficiente entender los conceptos básicos del cálculo (es decir, encontrar el mínimo y el máximo de...
Mis preguntas reales están en los últimos dos párrafos, pero para motivarlos: Si intento estimar la media de una variable aleatoria que sigue una distribución Normal con una varianza conocida, he leído que poner un uniforme antes en la media da como resultado una distribución posterior que es...
Recientemente me he dado cuenta de los métodos 'libres de probabilidades' que se usan en la literatura. Sin embargo, no tengo claro qué significa que un método de inferencia u optimización esté libre de probabilidades . En el aprendizaje automático, el objetivo suele ser maximizar la probabilidad...
Según el teorema de Bayes, . Pero de acuerdo con mi texto econométrico, dice que P ( θ | y ) ∝ P ( y | θ ) P ( θ ) . ¿Por qué es como este? No entiendo por qué se ignora P ( y ) .PAG( yEl | θ)P( θ ) = P( θ | y) P( y)P(y|θ)P(θ)=P(θ|y)P(y)P(y|\theta)P(\theta) = P(\theta|y)P(y)PAG( θ | y) ∝ P( yEl |...
El título lo dice todo. Entiendo que los mínimos cuadrados y la máxima verosimilitud darán el mismo resultado para los coeficientes de regresión si los errores del modelo se distribuyen normalmente. Pero, ¿qué sucede si los errores no se distribuyen normalmente? ¿Por qué los dos métodos ya no son...
Propiedad de invariancia de MLE: si es el MLE de , entonces, para cualquier función , el MLE de es . θ^θ^\hat{\theta}θθ\thetaF( θ )f(θ)f(\theta)f(θ)f(θ)f(\theta)f(θ^)f(θ^)f(\hat{\theta}) Además, debe ser una función uno a uno.fff El libro dice: "Por ejemplo, para estimar , el cuadrado de una...
Estaba leyendo el libro El problema de identificación en econometría de Franklin M. Fisher, y estaba confundido por la parte de que demuestra la identificación al visualizar la función de probabilidad. El problema podría simplificarse como: Para una regresión , donde , y son los parámetros....
¿Cuáles son las estimaciones de parámetros formulados para el sesgo normal? Si puedes, la derivación a través de MLE o mamá también sería genial. Gracias Editar . Tengo un conjunto de datos para el que puedo ver visualmente por parcelas que está ligeramente sesgado a la izquierda. Quiero estimar...
Me he encontrado con un problema en el libro de texto para estimar la media. El problema del libro de texto es el siguiente: Supongamos que puntos de datos, , ,. . . , , han sido generados por un pdf gaussiano unidimensional de media desconocida, pero de varianza conocida. Derive la estimación...
Considere un modelo AR ( ) (suponiendo una media cero por simplicidad):ppp xt=φ1xt−1+…+φpxt−p+εtxt=φ1xt−1+…+φpxt−p+εt x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t Se sabe que el estimador OLS (equivalente al estimador condicional de máxima verosimilitud) para está...
Estoy usando el filtro de Kalman de una manera muy estándar. El sistema está representado por la ecuación de estado xt+1=Fxt+vt+1xt+1=Fxt+vt+1x_{t+1}=Fx_{t}+v_{t+1} y la ecuación de observación yt=Hxt+Azt+wtyt=Hxt+Azt+wty_{t}=Hx_{t}+Az_{t}+w_{t} . Los libros de texto enseñan que después de aplicar...
Estoy leyendo el documento de teoría de Doug Bates sobre el paquete lme4 de R para comprender mejor la esencia de los modelos mixtos, y encontré un resultado intrigante que me gustaría entender mejor, sobre el uso de la máxima verosimilitud restringida (REML) para estimar la varianza . En la...
Matemáticamente, a menudo se ve que las expresiones y algoritmos para la Maximización de Expectativas (EM) son a menudo más simples para modelos mixtos, sin embargo, parece que casi todo (si no todo) que se puede resolver con EM también se puede resolver con MLE (por, digamos, el método de...
La pregunta es la siguiente: Se recoge una muestra aleatoria de n valores de una distribución binomial negativa con el parámetro k = 3. Encuentre el estimador de máxima verosimilitud del parámetro π. Encuentre una fórmula asintótica para el error estándar de este estimador. Explique por...
El mgcvpaquete Rtiene dos funciones para ajustar las interacciones del producto tensorial: te()y ti(). Entiendo la división básica del trabajo entre los dos (ajustar una interacción no lineal versus descomponer esta interacción en efectos principales y una interacción). Lo que no entiendo es por...
He tenido suficientes cursos sobre estadísticas durante mis años escolares y en la universidad. Tengo una buena comprensión de los conceptos, como CI, valores p, interpretación de significación estadística, pruebas múltiples, correlación, regresión lineal simple (con mínimos cuadrados) (modelos...
Entiendo que si tengo dos modelos A y B y A está anidado en B, entonces, dados algunos datos, puedo ajustar los parámetros de A y B usando MLE y aplicar la prueba de razón de probabilidad logarítmica generalizada. En particular, la distribución de la prueba debe ser con grados de libertad, donde es...
Mi pregunta surge de la lectura de Minka "Estimación de una distribución de Dirichlet" , que establece lo siguiente sin pruebas en el contexto de derivar un estimador de máxima verosimilitud para una distribución de Dirichlet basado en observaciones de vectores aleatorios: Como siempre con la...