Preguntas etiquetadas con regression

Queridos todos, he notado algo extraño que no puedo explicar, ¿verdad? En resumen: el enfoque manual para calcular un intervalo de confianza en un modelo de regresión logística y la función R confint()dan resultados diferentes. He estado pasando por la regresión logística aplicada de Hosmer &...

¿Por qué la regresión logística se vuelve inestable cuando las clases están bien separadas? ¿Qué significan las clases bien separadas? Realmente agradecería si alguien puede explicar con un

Error cuadrático medio suma residual de cuadrados error estándar residual error medio cuadrado error de prueba Pensé que solía entender estos términos, pero cuanto más hago problemas estadísticos, más me confundo donde me imagino. Me gustaría un poco de seguridad y un ejemplo concreto Puedo...

X e Y no están correlacionados (-.01); sin embargo, cuando coloco X en una regresión múltiple que predice Y, junto con otras tres (A, B, C) otras variables (relacionadas), X y otras dos variables (A, B) son predictores significativos de Y. Tenga en cuenta que las otras dos ( A, B) las variables...

Digamos que estoy estudiando cómo los narcisos responden a diversas condiciones del suelo. He recopilado datos sobre el pH del suelo frente a la altura madura del narciso. Espero una relación lineal, así que hago una regresión lineal. Sin embargo, cuando comencé mi estudio, no me di cuenta de que...

¿Por qué un procedimiento de validación cruzada supera el problema de sobreajustar un

Considere la siguiente figura de los Modelos lineales de Faraway con R (2005, p. 59). La primera gráfica parece indicar que los residuos y los valores ajustados no están correlacionados, ya que deberían estar en un modelo lineal homoscedástico con errores distribuidos normalmente. Por lo tanto,...

Tengo curiosidad acerca de procedimientos repetibles que se pueden utilizar para descubrir la forma funcional de la función y = f(A, B, C) + error_termdonde mi única entrada es un conjunto de observaciones ( y, A, By C). Tenga en cuenta que la forma funcional de fes desconocida. Considere el...

Entiendo que para ciertos conjuntos de datos, como votar, funciona mejor. ¿Por qué se usa la regresión de Poisson sobre la regresión lineal ordinaria o la regresión logística? ¿Cuál es la motivación matemática para

Para el problema de regresión, he visto a personas usar el "coeficiente de determinación" (también conocido como R al cuadrado) para realizar la selección del modelo, por ejemplo, encontrar el coeficiente de penalización apropiado para la regularización. Sin embargo, también es común usar "error...

¿Alguien puede recomendar una buena exposición de la teoría detrás de la regresión de mínimos cuadrados parciales (disponible en línea) para alguien que entiende SVD y PCA? He visto muchas fuentes en línea y no he encontrado nada que tuviera la combinación correcta de rigor y accesibilidad. He...

La regularización de Tikhonov y la regresión de crestas son términos que a menudo se usan como si fueran idénticos. ¿Es posible especificar exactamente cuál es la

Me imagino que cuanto mayor es el coeficiente de una variable, más capacidad tiene el modelo para "oscilar" en esa dimensión, lo que brinda una mayor oportunidad de ajustar el ruido. Aunque creo que tengo un sentido razonable de la relación entre la varianza en el modelo y los coeficientes grandes,...

¿Cómo se comparan los métodos de regularización de cresta, LASSO y elasticnet? ¿Cuáles son sus respectivas ventajas y desventajas? Cualquier buen documento técnico o apuntes de clase también serán apreciados.

El estadístico de prueba para la prueba de Hosmer-Lemeshow (HLT) para la bondad de ajuste (GOF) de un modelo de regresión logística se define de la siguiente manera: La muestra se divide en d=10d=10d=10 deciles, D1,D2,…,DdD1,D2,…,DdD_1, D_2, \dots , D_{d} , por decil se calculan las siguientes...

Soy un ingeniero de software que aprende el aprendizaje automático, particularmente a través de los cursos de aprendizaje automático de Andrew Ng . Mientras estudiaba la regresión lineal con la regularización , encontré términos que son confusos: Regresión con regularización L1 o regularización...

Estoy tratando de entender el origen de la forma curva de las bandas de confianza asociadas con una regresión lineal OLS y cómo se relaciona con los intervalos de confianza de los parámetros de regresión (pendiente e intercepción), por ejemplo (usando R): require(visreg) fit <- lm(Ozone ~...

Al hacer la regresión, por ejemplo, dos hiperparámetros para elegir son a menudo la capacidad de la función (por ejemplo, el mayor exponente de un polinomio) y la cantidad de regularización. Lo que me confunde es, ¿por qué no elegir una función de baja capacidad y luego ignorar cualquier...

Estoy un poco confundido con una conferencia sobre regresión lineal dada por Andrew Ng en Coursera sobre el aprendizaje automático. Allí, le dio una función de costo que minimiza la suma de cuadrados como: 12m∑i=1m(hθ(X(i))−Y(i))212m∑i=1m(hθ(X(i))−Y(i))2 \frac{1}{2m} \sum _{i=1}^m...

Un documento "Cálculo preciso de la varianza de carrera" en http://www.johndcook.com/standard_deviation.html muestra cómo calcular la media de carrera, la varianza y las desviaciones estándar. ¿Existen algoritmos en los que los parámetros de un modelo de regresión lineal o logística puedan...