Cuando se utiliza la validación cruzada para hacer la selección del modelo (como, por ejemplo, el ajuste de hiperparámetros) y para evaluar el rendimiento del mejor modelo, se debe usar la validación cruzada anidada . El ciclo externo es evaluar el rendimiento del modelo, y el ciclo interno es...
Estoy tratando de averiguar qué método de validación cruzada es mejor para mi situación. Los siguientes datos son solo un ejemplo para resolver el problema (en R), pero mis Xdatos reales ( xmat) están correlacionados entre sí y en diferentes grados con la yvariable ( ymat). Proporcioné el código...
Quiero usar Lazo o regresión de cresta para un modelo con más de 50,000 variables. Quiero hacerlo usando el paquete de software en R. ¿Cómo puedo estimar el parámetro de contracción ( λλ\lambda )? Ediciones: Este es el punto al que me levanté: set.seed (123) Y <- runif (1000) Xv <-...
Estoy tratando de ajustar un modelo de regresión lineal multivariante con aproximadamente 60 variables predictoras y 30 observaciones, por lo que estoy usando el paquete glmnet para la regresión regularizada porque p> n. He estado revisando la documentación y otras preguntas, pero aún no puedo...
Veo una regresión restringida similar aquí: Regresión lineal restringida a través de un punto específico Pero mi requisito es ligeramente diferente. Necesito los coeficientes para sumar 1. Específicamente, estoy retrocediendo los retornos de 1 serie de divisas frente a otras 3 series de divisas,...
Estoy tratando de crear un ajuste polinómico de segundo orden para algunos datos que tengo. Digamos que trazo esto en forma con ggplot(): ggplot(data, aes(foo, bar)) + geom_point() + geom_smooth(method="lm", formula=y~poly(x, 2)) Yo obtengo: Por lo tanto, un ajuste de segundo orden funciona...
Estoy leyendo un libro sobre regresión lineal y tengo algunos problemas para comprender la matriz de varianza-covarianza de bb\mathbf{b} : Los elementos diagonales son bastante fáciles, pero los no diagonales son un poco más difíciles, lo que me desconcierta es que
Me preguntaba por qué los problemas de regresión se llaman problemas de "regresión". ¿Cuál es la historia detrás del nombre? Una definición para la regresión: "Recaída a un estado menos perfecto o
Tengo curiosidad por qué hay por lo general sólo y normas de regularización. ¿Hay pruebas de por qué son mejores?L
Tengo un modelo logístico GLM con 8 variables. Realicé una prueba de chi-cuadrado en R anova(glm.model,test='Chisq')y 2 de las variables resultan ser predictivas cuando se ordenan en la parte superior de la prueba y no tanto cuando se ordenan en la parte inferior. El summary(glm.model)sugiere que...
¿Cuál es el propósito de la función de enlace como componente del modelo lineal generalizado? ¿Por qué lo necesitamos? Wikipedia dice: Puede ser conveniente hacer coincidir el dominio de la función de enlace con el rango de la media de la función de distribución ¿Cuál es la ventaja de hacer...
¿Se prefiere siempre la regularización de red elástica a Lasso & Ridge, ya que parece resolver los inconvenientes de estos métodos? ¿Cuál es la intuición y cuál es la matemática detrás de la red
Cuando se ejecuta un modelo de regresión múltiple en R, una de las salidas es un error estándar residual de 0.0589 en 95,161 grados de libertad. Sé que los 95,161 grados de libertad están dados por la diferencia entre el número de observaciones en mi muestra y el número de variables en mi modelo....
Aparte de las pruebas, literalmente, cada combinación posible de la variable (s) en un modelo ( x1:x2o x1*x2 ... xn-1 * xn). ¿Cómo identificar si una interacción deberían o podrían existir entre el independiente (con suerte) las variables? ¿Cuáles son las mejores prácticas para intentar...
Estoy ajustando un modelo de regresión lineal múltiple entre 4 variables categóricas (con 4 niveles cada una) y una salida numérica. Mi conjunto de datos tiene 43 observaciones. La regresión me da los siguientes valores de la prueba para cada coeficiente de pendiente: . Por lo tanto, el...
La summary.rqfunción de la viñeta quantreg ofrece una multitud de opciones para las estimaciones de error estándar de los coeficientes de regresión de cuantiles. ¿Cuáles son los escenarios especiales en los que cada uno de ellos se convierte en óptima / deseable? "rango" que produce intervalos de...
Mientras aprendía sobre el Gradient Boosting, no escuché ninguna restricción con respecto a las propiedades de un "clasificador débil" que el método usa para construir y ensamblar modelos. Sin embargo, no podía imaginar una aplicación de un GB que utilizara la regresión lineal y, de hecho, cuando...
Actualmente estoy trabajando para construir un modelo usando una regresión lineal múltiple. Después de jugar con mi modelo, no estoy seguro de cómo determinar mejor qué variables mantener y cuáles eliminar. Mi modelo comenzó con 10 predictores para el DV. Al usar los 10 predictores, cuatro se...
¿Cuál es la fórmula exacta utilizada en R lm() para el R cuadrado ajustado? ¿Cómo puedo interpretarlo? Fórmulas r-cuadrado ajustadas Parece que existen varias fórmulas para calcular el R cuadrado ajustado. Fórmula de Wherry:1 - ( 1 - R2) ( n - 1 )( n - v
Ni siquiera sé si esta pregunta tiene sentido, pero ¿cuál es la diferencia entre la regresión múltiple y la correlación parcial (aparte de las diferencias obvias entre correlación y regresión, que no es a lo que apunto)? Quiero descubrir lo siguiente: tengo dos variables independientes ( , ) y...