Estoy usando Lasso para la selección de características en una configuración dimensional relativamente baja (n >> p). Después de ajustar un modelo de lazo, quiero usar las covariables con coeficientes distintos de cero para ajustar un modelo sin penalización. Estoy haciendo esto porque quiero...
Para la distribución normal, hay un estimador imparcial de la desviación estándar dada por: σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2−−−−−−−−−−−−√σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})}...
Varias descripciones sobre la selección del modelo sobre los efectos aleatorios de los modelos lineales mixtos indican el uso de REML. Sé la diferencia entre REML y ML en algún nivel, pero no entiendo por qué REML debe usarse porque ML está sesgado. Por ejemplo, ¿es incorrecto realizar un LRT en un...
Según tengo entendido, las escuelas del Reino Unido enseñan que la desviación estándar se encuentra usando: mientras que las escuelas de los Estados Unidos enseñan: (en un nivel básico de todos modos). Esto ha causado problemas a varios de mis alumnos en el pasado, ya que buscaron en...
Suponga que ajusta una regresión lineal / logística , con el objetivo de una estimación imparcial de . Está muy seguro de que tanto como son muy positivos en relación con el ruido en sus estimaciones.g(y)=a0+a1⋅x1+a2⋅x2g(y)=a0+a1⋅x1+a2⋅x2g(y) = a_0 + a_1\cdot x_1 + a_2\cdot...
Para un modelo lineal, la solución OLS proporciona el mejor estimador lineal imparcial para los parámetros. Por supuesto, podemos cambiar un sesgo por una varianza más baja, por ejemplo, regresión de cresta. Pero mi pregunta es sobre no tener prejuicios. ¿Hay otros estimadores que se usan con...
Esta pregunta hace referencia al artículo de Galit Shmueli "Explicar o predecir" . Específicamente, en la sección 1.5, "Explicación y predicción son diferentes", el profesor Shmueli escribe: En el modelado explicativo, el objetivo es minimizar el sesgo para obtener la representación más precisa...
El enfoque común para estimar los parámetros de una distribución normal es usar la media y la desviación / varianza estándar de la muestra. Sin embargo, si hay algunos valores atípicos, la mediana y la desviación media de la mediana deberían ser mucho más robustas, ¿verdad? En algunos conjuntos...
Este es un seguimiento, pero también una pregunta diferente de la anterior . Leí en Wikipedia que " Un estimador imparcial mediano minimiza el riesgo con respecto a la función de pérdida de desviación absoluta, como lo observó Laplace ". Sin embargo, mis resultados de simulación de Monte Carlo no...
Estoy tratando de obtener una comprensión intuitiva y sentir la diferencia y la diferencia práctica entre el término consistente y asintóticamente imparcial. Conozco sus definiciones matemáticas / estadísticas, pero estoy buscando algo intuitivo. Para mí, mirando sus definiciones individuales, casi...
Se puede usar una base de datos de (población, área, forma) para mapear la densidad de población asignando un valor constante de población / área a cada forma (que es un polígono como un bloque del Censo, tramo, condado, estado, lo que sea). Sin embargo, las poblaciones generalmente no están...
Suponga que son variables aleatorias iid que siguen la distribución de Poisson con media . ¿Cómo puedo probar que no hay un estimador imparcial de la cantidad ?X0,X1, ... ,XnorteX0,X1,...,Xnorte X_{0},X_{1},\ldots,X_{n} λλ \lambda 1λ1λ \dfrac{1}{\lambda}
Suponga que X∼N(μx,σ2x)X∼N(μx,σx2)X \sim \mathcal{N}(\mu_x, \sigma^2_x) e Y∼N(μy,σ2y)Y∼N(μy,σy2)Y \sim \mathcal{N}(\mu_y, \sigma^2_y) z=min(μx,μy)z=min(μx,μy)z = \min(\mu_x, \mu_y)zzz El estimador simple de donde y son medias de muestra de e , por ejemplo, está sesgado (aunque es consistente)....
Estoy trabajando en algunos datos sintéticos para el modelo Error en variable para algunas investigaciones. Actualmente tengo una sola variable independiente, y supongo que sé la varianza para el verdadero valor de la variable dependiente. Entonces, con esta información, puedo lograr un estimador...
El teorema de Gauss-Markov nos dice que el estimador OLS es el mejor estimador lineal imparcial para el modelo de regresión lineal. Pero supongamos que no me importa la linealidad y la imparcialidad. Entonces, ¿hay algún otro estimador (posible no lineal / sesgado) para el modelo de regresión...
Supongamos que tenemos un conjunto (medible y adecuadamente bien comportado) , donde es compacto. Además, supongamos que podemos extraer muestras de la distribución uniforme sobre wrt la medida de Lebesgue y que conocemos la medida . Por ejemplo, tal vez es una caja que contiene...
Nota: esta pregunta es una nueva publicación, ya que mi pregunta anterior tuvo que ser eliminada por razones legales. Al comparar PROC MIXED de SAS con la función lmedel nlmepaquete en R, me topé con algunas diferencias bastante confusas. Más específicamente, los grados de libertad en las...
¿Cada uno implica al otro? Si no, ¿implica uno el otro? ¿Por qué por qué no? Este problema surgió en respuesta a un comentario sobre una respuesta que publiqué aquí . Aunque la búsqueda en Google de los términos relevantes no produjo nada que pareciera particularmente útil, noté una respuesta en...
Estoy leyendo el documento de teoría de Doug Bates sobre el paquete lme4 de R para comprender mejor la esencia de los modelos mixtos, y encontré un resultado intrigante que me gustaría entender mejor, sobre el uso de la máxima verosimilitud restringida (REML) para estimar la varianza . En la...
Considere un modelo AR ( ) (suponiendo una media cero por simplicidad):ppp xt=φ1xt−1+…+φpxt−p+εtxt=φ1xt−1+…+φpxt−p+εt x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t Se sabe que el estimador OLS (equivalente al estimador condicional de máxima verosimilitud) para está...