Jeffrey Wooldridge en su Análisis econométrico de la sección transversal y los datos del panel (página 357) dice que el hessiano empírico "no garantiza que sea definitivo positivo, o incluso semidefinido positivo, para la muestra particular con la que estamos trabajando". Esto me parece incorrecto...
Parece haber mucha confusión en la comparación de usar glmnetdentro caretpara buscar una lambda óptima y usar cv.glmnetpara hacer la misma tarea. Se plantearon muchas preguntas, por ejemplo: Modelo de clasificación train.glmnet vs. cv.glmnet? ¿Cuál es la forma correcta de usar glmnet con...
Esta pregunta trata sobre la estimación de máxima verosimilitud restringida (REML) en una versión particular del modelo lineal, a saber: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), donde es una matriz ( n × p )...
Me pregunto si alguna vez se utilizó la estimación de máxima verosimilitud en las estadísticas. Aprendemos el concepto, pero me pregunto cuándo se usa realmente. Si asumimos la distribución de los datos, encontramos dos parámetros, uno para la media y otro para la varianza, pero ¿realmente lo usa...
θ^θ^\hat\thetaθ∗θ∗\theta^*nnn∥θ^−θ∗∥‖θ^−θ∗‖\lVert\hat\theta-\theta^*\rVertO(1/n−−√)O(1/n)O(1/\sqrt n)∥Eθ^−θ∗∥‖Eθ^−θ∗‖\lVert \mathbb E\hat\theta - \theta^*\rVert∥Eθ^−θ^∥‖Eθ^−θ^‖\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/n−−√)O(1/n)O(1/\sqrt{n}) Estoy interesado en los modelos que tienen un...
En el primer capítulo del libro Algebraic Geometry and Statistical Learning Theory, que habla sobre la convergencia de las estimaciones en diferentes espacios funcionales, menciona que la estimación bayesiana corresponde a la topología de distribución de Schwartz, mientras que la estimación de...
MLE = Estimación de máxima verosimilitud MAP = Máximo a posteriori MLE es intuitivo / ingenuo en el sentido de que comienza solo con la probabilidad de observación dado el parámetro (es decir, la función de probabilidad) y trata de encontrar el parámetro que mejor concuerde con la observación ....
Después de centrar, se puede suponer que las dos mediciones x y −x son observaciones independientes de una distribución de Cauchy con función de densidad de probabilidad: 1f(x:θ)=f(x:θ)=f(x :\theta) = ,-∞<x<∞1π(1+(x−θ)2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) ,−∞<x<∞,−∞<x<∞,...
Estoy tratando de entender la regresión logística de Firth (método de manejo de separación perfecta / completa o cuasi-completa en regresión logística) para poder explicarlo a otros en términos simplificados. ¿Alguien tiene una explicación tonta de qué modificación está haciendo la estimación de...
¿Cuándo es preferible utilizar la Estimación de máxima verosimilitud en lugar de los mínimos cuadrados ordinarios? ¿Cuáles son las fortalezas y limitaciones de cada uno? Estoy tratando de reunir conocimientos prácticos sobre dónde usar cada uno en situaciones
Dado un conjunto de datos con resultados binarios algunas matrices de predicción , el modelo de regresión logística estándar estima los coeficientes que maximizan la probabilidad binomial. Cuando X es rango completo, \ beta_ {MLE} es único; cuando la separación perfecta no está presente, es...
Esta pregunta está inspirada en la larga discusión en los comentarios aquí: ¿Cómo usa la regresión lineal la distribución normal? En el modelo de regresión lineal habitual, para simplificar aquí escrito con un solo predictor: Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i...
He escrito un código que puede hacer el filtrado de Kalman (utilizando varios filtros de tipo Kalman diferentes [Filtro de información et al.]) Para el Análisis de espacio de estado lineal gaussiano para un vector de estado n-dimensional. Los filtros funcionan muy bien y estoy obteniendo una buena...
Veo mencionado en varios lugares que ANOVA hace su estimación utilizando el método de los momentos. Esa afirmación me confunde porque, aunque no estoy familiarizado con el método de los momentos, entiendo que es algo diferente y no equivalente al método de máxima probabilidad; Por otro lado, ANOVA...
Esta pregunta está motivada por esta . Busqué dos fuentes y esto es lo que encontré. A. van der Vaart, Estadísticas asintóticas: Rara vez es posible calcular explícitamente la probabilidad de un perfil, pero su evaluación numérica a menudo es factible. Entonces, la probabilidad de perfil puede...
Recientemente he revisado algunos documentos antiguos de Nancy Reid, Barndorff-Nielsen, Richard Cox y, sí, un pequeño Ronald Fisher sobre el concepto de "inferencia condicional" en el paradigma frecuentista, lo que parece significar que las inferencias se basan considerando solo el "subconjunto...
Tengo un modelo para predecir una trayectoria (x en función del tiempo) con varios parámetros. Por el momento, calculo el error cuadrático medio (RMSE) entre la trayectoria prevista y la trayectoria registrada experimentalmente. Actualmente, minimizo esta diferencia (el RMSE) usando simplex...
Este es un pensamiento extraño que tuve al revisar algunas estadísticas antiguas y, por alguna razón, parece que no puedo pensar en la respuesta. Un PDF continuo nos dice la densidad de los valores de observación en cualquier rango dado. Es decir, si , por ejemplo, entonces la probabilidad de que...
Digamos que tengo un problema de selección de modelo y estoy tratando de usar AIC o BIC para evaluar los modelos. Esto es sencillo para los modelos que tienen algún número de parámetros con valores reales.kkk Sin embargo, ¿qué sucede si uno de nuestros modelos (por ejemplo, el modelo Mallows )...
Premisa: esta puede ser una pregunta estúpida. Solo conozco las afirmaciones sobre las propiedades asintóticas de MLE, pero nunca estudié las pruebas. Si lo hiciera, tal vez no estaría haciendo estas preguntas, o tal vez me daría cuenta de que estas preguntas no tienen sentido ... así que por...