Quiero construir un modelo de regresión que sea un promedio de múltiples modelos OLS, cada uno basado en un subconjunto de datos completos. La idea detrás de esto se basa en este documento . Creo k pliegues y construyo k modelos OLS, cada uno con datos sin uno de los pliegues. Luego promedio los...
Estoy tratando de encontrar información sobre los supuestos de la regresión PLS ( simple ). Estoy especialmente interesado en una comparación de los supuestos de PLS con respecto a los de la regresión de OLS. yyy He leído / hojeado una gran cantidad de literatura sobre el tema de PLS; documentos...
¿Cuándo es preferible utilizar la Estimación de máxima verosimilitud en lugar de los mínimos cuadrados ordinarios? ¿Cuáles son las fortalezas y limitaciones de cada uno? Estoy tratando de reunir conocimientos prácticos sobre dónde usar cada uno en situaciones
Me doy cuenta de que este tema ha aparecido varias veces antes, por ejemplo , aquí , pero todavía no estoy seguro de cómo interpretar mejor mi salida de regresión. Tengo un conjunto de datos muy simple, que consiste en una columna de valores xy una columna de valores y , divididos en dos grupos...
Si en las regresiones estándar de OLS se violan dos supuestos (distribución normal de errores, homocedasticidad), ¿son los errores estándar de arranque y los intervalos de confianza una alternativa apropiada para llegar a resultados significativos con respecto a la importancia de los coeficientes...
En el libro de Bishop sobre aprendizaje automático, se analiza el problema de ajustar una función polinómica a un conjunto de puntos de datos. Sea M el orden del polinomio ajustado. Dice como eso Vemos que, a medida que M aumenta, la magnitud de los coeficientes generalmente aumenta. En...
La pregunta anterior lo dice todo. Básicamente, mi pregunta es para una función de ajuste genérica (podría ser arbitrariamente complicada) que no será lineal en los parámetros que estoy tratando de estimar, ¿cómo se eligen los valores iniciales para inicializar el ajuste? Estoy tratando de hacer...
Soy muy nuevo en mínimos cuadrados parciales (PLS) y trato de entender la salida de la función R plsr()en el plspaquete. Simulemos datos y ejecutemos el PLS: library(pls) n <- 50 x1 <- rnorm(n); xx1 <- scale(x1) x2 <- rnorm(n); xx2 <- scale(x2) y <- x1 + x2 + rnorm(n,0,0.1); yy...
¿Cuál es la diferencia entre mínimos cuadrados y regresión lineal? ¿Es la misma
¿Existe una regla general o incluso alguna forma de decir qué tan grande debe ser una muestra para estimar un modelo con un número dado de parámetros? Entonces, por ejemplo, si quiero estimar una regresión de mínimos cuadrados con 5 parámetros, ¿qué tan grande debe ser la muestra? ¿Importa qué...
Estoy tratando de interpretar la salida de nls (). He leído esta publicación pero aún no entiendo cómo elegir la mejor opción. De mis ajustes tengo dos salidas: > summary(m) Formula: y ~ I(a * x^b) Parameters: Estimate Std. Error t value Pr(>|t|) a 479.92903 62.96371 7.622 0.000618...
Tengo un conjunto de datos que representa la disminución exponencial. Me gustaría ajustar una función exponencial a estos datos. He intentado iniciar sesión transformando la variable de respuesta y luego usando mínimos cuadrados para ajustar una línea; usando un modelo lineal generalizado con una...
Estoy tratando de calcular la probabilidad logarítmica de una regresión no lineal generalizada de mínimos cuadrados para la función optimizada por funcionan en el paquete R , usando la matriz de covarianza de varianza generada por distancias en un árbol filogenético asumiendo movimiento browniano (...
¿Alguien puede señalarme en la dirección de un algoritmo en línea (recursivo) para la regularización de Tikhonov (mínimos cuadrados regularizados)? En una configuración fuera de línea, calcularía usando mi conjunto de datos original donde se encuentra usando la validación cruzada n-fold. Se puede...
He estado estudiando la regresión lineal y la probé en el siguiente conjunto {(x, y)}, donde x especificó el área de la casa en pies cuadrados e y especificó el precio en dólares. Este es el primer ejemplo en Andrew Ng Notes . 2104,400 1600,330 2400,369 1416,232 3000,540 Desarrollé un código de...
El mgcvpaquete Rtiene dos funciones para ajustar las interacciones del producto tensorial: te()y ti(). Entiendo la división básica del trabajo entre los dos (ajustar una interacción no lineal versus descomponer esta interacción en efectos principales y una interacción). Lo que no entiendo es por...
Empecé a estudiar estimadores de mínimos cuadrados ordinarios (MCO) y todavía estoy al principio. Ya compré algunos libros sobre econometría pero no encontré nada en línea. Entonces, me preguntaba si existe un sitio web, una página de inicio u otros recursos en línea que expliquen los estimadores...
Quiero detectar si la colinealidad es un problema en mi regresión OLS. Entiendo que los factores de inflación de varianza y el índice de condición son dos medidas comúnmente utilizadas, pero me resulta difícil encontrar algo definitivo sobre los méritos de cada enfoque, o cuáles deberían ser los...
Si tengo un modelo de regresión: Y= Xβ+ εY=Xβ+ε Y = X\beta + \varepsilon donde V[ε]=Id∈Rn×nV[ε]=Id∈Rn×n\mathbb{V}[\varepsilon] = Id \in \mathcal{R} ^{n \times n} y E[ε]=(0,…,0)E[ε]=(0,…,0)\mathbb{E}[\varepsilon]=(0, \ldots , 0) , ¿Cuándo usar βOLSβOLS\beta_{\text{OLS}} , el estimador de...
Cuando queremos estimar los parámetros de regresión lineal, hacemos ecuaciones normales, ya que el modelo lineal contiene varias incógnitas. ¿Por qué estas ecuaciones se llaman ecuaciones