Estoy sufriendo un apagón. Se me presentó la siguiente imagen para mostrar el equilibrio de sesgo-varianza en el contexto de la regresión lineal: Puedo ver que ninguno de los dos modelos encaja bien: el "simple" no aprecia la complejidad de la relación XY y el "complejo" simplemente se...
Cuando fue la palabra "sesgo" acuñado a media E[θ^−θ]E[θ^−θ]\mathbb{E}[\hat{\theta}-\theta] ? La razón por la que estoy pensando en esto ahora es porque parece recordar a Jaynes, en su texto de Teoría de la probabilidad , criticando el uso de la palabra "sesgo" utilizado para describir esta...
¿Puede proporcionar un ejemplo de un estimador MLE de la media que está sesgada? No estoy buscando un ejemplo que rompa los estimadores de MLE en general al violar las condiciones de regularidad. Todos los ejemplos que puedo ver en Internet se refieren a la variación, y parece que no puedo...
Tengo una pregunta sobre el sesgo variable omitido en la regresión logística y lineal. Digamos que omito algunas variables de un modelo de regresión lineal. Imagine que esas variables omitidas no están correlacionadas con las variables que incluí en mi modelo. Esas variables omitidas no sesgan...
Siempre lucho por obtener la verdadera esencia del problema de los parámetros incidentales. Leí en varias ocasiones que los estimadores de efectos fijos de los modelos de datos de panel no lineales pueden estar severamente sesgados debido al problema de parámetro incidental "bien conocido". Cuando...
Leí una y otra vez que la validación cruzada "Leave-one-out" tiene una gran variación debido a la gran superposición de los pliegues de entrenamiento. Sin embargo, no entiendo por qué es así: ¿no debería ser el rendimiento de la validación cruzada muy estable (baja variación) exactamente porque los...
Una suposición básica del uso de modelos de regresión para la inferencia es que "todos los predictores relevantes" se han incluido en la ecuación de predicción. La razón es que no incluir un factor importante del mundo real conduce a coeficientes sesgados y, por lo tanto, a inferencias inexactas...
Estoy tratando de entender el equilibrio entre sesgo y varianza, la relación entre el sesgo del estimador y el sesgo del modelo, y la relación entre la varianza del estimador y la varianza del modelo. Llegué a estas conclusiones: Tendemos a sobreajustar los datos cuando descuidamos el sesgo...
Preguntas ¿Depende de si el árbol es poco profundo o profundo? ¿O podemos decir esto independientemente de la profundidad / niveles del árbol? ¿Por qué el sesgo es bajo y la varianza alta? Por favor explique intuitivamente y
Esta pregunta hace referencia al artículo de Galit Shmueli "Explicar o predecir" . Específicamente, en la sección 1.5, "Explicación y predicción son diferentes", el profesor Shmueli escribe: En el modelado explicativo, el objetivo es minimizar el sesgo para obtener la representación más precisa...
Estoy interesado en obtener una estimación imparcial de R2R2R^2 en una regresión lineal múltiple. Al reflexionar, puedo pensar en dos valores diferentes que una estimación imparcial de R2R2R^2 podría estar tratando de igualar. Fuera de la muestra :R2R2R^2 el r-cuadrado que se obtendría si la...
En psicología y otros campos, a menudo se emplea una forma de regresión gradual que implica lo siguiente: Observe los predictores restantes (al principio no hay ninguno en el modelo) e identifique el predictor que resulta en el mayor cambio de r-cuadrado; Si el valor p del cambio de r-cuadrado...
Un amigo representa a un cliente en una apelación, después de un juicio penal en el que parece que la selección del jurado fue racialmente parcial. El jurado estuvo formado por 30 personas, en 4 grupos raciales. La fiscalía utilizó desafíos perentorios para eliminar a 10 de estas personas del...
θ^θ^\hat\thetaθ∗θ∗\theta^*nnn∥θ^−θ∗∥‖θ^−θ∗‖\lVert\hat\theta-\theta^*\rVertO(1/n−−√)O(1/n)O(1/\sqrt n)∥Eθ^−θ∗∥‖Eθ^−θ∗‖\lVert \mathbb E\hat\theta - \theta^*\rVert∥Eθ^−θ^∥‖Eθ^−θ^‖\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/n−−√)O(1/n)O(1/\sqrt{n}) Estoy interesado en los modelos que tienen un...
Estoy tratando de obtener una comprensión intuitiva y sentir la diferencia y la diferencia práctica entre el término consistente y asintóticamente imparcial. Conozco sus definiciones matemáticas / estadísticas, pero estoy buscando algo intuitivo. Para mí, mirando sus definiciones individuales, casi...
Al aprender el curso de muestreo, me encuentro con las siguientes dos afirmaciones: 1) El error de muestreo conduce principalmente a la variabilidad, los errores que no son de muestreo conducen al sesgo. 2) Debido a un error de no muestreo, una muestra es a menudo más precisa que un CENSO. No sé...
Me gustaría obtener una comprensión conceptual del error cuadrático medio (RMSE) y la desviación media del sesgo (MBD). Después de calcular estas medidas para mis propias comparaciones de datos, a menudo me he quedado perplejo al descubrir que el RMSE es alto (por ejemplo, 100 kg), mientras que el...
De acuerdo con este tutorial sobre aprendizaje profundo , la pérdida de peso (regularización) generalmente no se aplica a los términos de sesgo b ¿por qué? ¿Cuál es el significado (intuición) detrás de
Estoy a cargo de presentar los resultados de las pruebas A / B (ejecutadas en variaciones del sitio web) en mi empresa. Ejecutamos la prueba durante un mes y luego verificamos los valores p a intervalos regulares hasta que alcancemos la significación (o la abandonamos si no se alcanza la...
En Métodos estadísticos en las ciencias atmosféricas , Daniel Wilks señala que la regresión lineal múltiple puede conducir a problemas si hay intercorrelaciones muy fuertes entre los predictores (3a edición, página 559-560): Una patología que puede ocurrir en la regresión lineal múltiple es que...