¿Cuál es un ejemplo de colinealidad perfecta en términos de la matriz de diseño XXX ? Quisiera un ejemplo donde β = ( X ' X ) - 1 X ' Y no puede estimarse porque ( X ' X ) no es invertible.β^=(X′X)−1X′Yβ^=(X′X)−1X′Y\hat \beta =
Zou y col. "Sobre los" grados de libertad "del lazo" (2007) muestran que el número de coeficientes distintos de cero es una estimación imparcial y consistente de los grados de libertad del lazo. Me parece un poco contradictorio. Supongamos que tenemos un modelo de regresión (donde las variables...
Soy bastante nuevo en Machine Learning / Modeling y me gustaría conocer algunos antecedentes de este problema. Tengo un conjunto de datos donde el número de observaciones es sin embargo, el número de variables es . En primer lugar, ¿tiene sentido considerar la construcción de un modelo en un...
Los análisis de regresión moderada a menudo se usan en ciencias sociales para evaluar la interacción entre dos o más predictores / covariables. Normalmente, con dos variables predictoras, se aplica el siguiente modelo: Y=β0+β1∗X+β2∗M+β3∗XM+eY=β0+β1∗X+β2∗M+β3∗XM+eY = β_0 + β_1*X + β_2*M + β_3*XM...
Actualmente estoy trabajando en la construcción de un modelo predictivo para un resultado binario en un conjunto de datos con ~ 300 variables y 800 observaciones. He leído mucho en este sitio sobre los problemas asociados con la regresión gradual y por qué no usarlo. He estado leyendo sobre la...
En el aprendizaje automático (para problemas de regresión), a menudo veo que se usa el error cuadrático medio (MSE) o el error absoluto medio (MAE) como la función de error para minimizar (más el término de regularización). Me pregunto si hay situaciones en las que sería más apropiado usar el...
Antecedentes: Estoy tratando de seguir la revisión de Princeton de la estimación de MLE para GLM . Entiendo los conceptos básicos de la estimación MLE: likelihood, score, observada y esperada Fisher informationy la Fisher scoringtécnica. Y sé cómo justificar la regresión lineal simple con la...
Después de un año en la escuela de posgrado, mi comprensión de los "mínimos cuadrados ponderados" es la siguiente: let , sea una matriz de diseño , \ boldsymbol \ beta \ in \ mathbb {R} ^ p sea un vector de parámetros, \ boldsymbol \ epsilon \ in \ mathbb {R} ^ n sea un vector de error tal...
Tengo un conjunto de datos compuesto de proporciones que miden el "nivel de actividad" de renacuajos individuales, por lo tanto, los valores se unen entre 0 y 1. Estos datos se recopilaron contando el número de veces que el individuo se movió dentro de un cierto intervalo de tiempo (1 para el...
Los polinomios ortogonales en un conjunto univariado de puntos son polinomios que producen valores en esos puntos de manera que su producto escalar y su correlación por pares son cero. R puede producir polinomios ortogonales con función poli . La misma función tiene un polimero variante que...
Quiero saber la diferencia entre la regresión lineal en un análisis de aprendizaje automático y la regresión lineal en un entorno de "aprendizaje profundo". Qué algoritmos se utilizan para la regresión lineal en el entorno de aprendizaje
Aquí hay un pequeño ejemplo: MyDf<-data.frame(x=c(1,2,3,4), y=c(1.2, .7, -.5, -3)) Ahora con el base::lm: > lm(y~x, data=MyDf) %>% summary Call: lm(formula = y ~ x, data = MyDf) Residuals: 1 2 3 4 -0.47 0.41 0.59 -0.53 Coefficients: Estimate Std. Error t value Pr(>|t|)...
¿Cuál es la diferencia entre mínimos cuadrados y regresión lineal? ¿Es la misma
Este es el problema de desviación menos absoluto en cuestión:. Sé que se puede reorganizar como problema de LP de la siguiente manera:argminwL(w)=∑ni=1|yi−wTx|argminwL(w)=∑i=1n|yi−wTx| \underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}| min∑ni=1uimin∑i=1nui\min...
He estado estudiando la regresión lineal y la probé en el siguiente conjunto {(x, y)}, donde x especificó el área de la casa en pies cuadrados e y especificó el precio en dólares. Este es el primer ejemplo en Andrew Ng Notes . 2104,400 1600,330 2400,369 1416,232 3000,540 Desarrollé un código de...
Después de analizar esta pregunta: Intentando emular la regresión lineal usando Keras , he intentado dar mi propio ejemplo, solo para estudiar y desarrollar mi intuición. Descargué un conjunto de datos simple y usé una columna para predecir otra. Los datos se ven así: Ahora acabo de crear un...
Hay varias publicaciones sobre cómo seleccionar funciones. Uno de los métodos describe la importancia de la característica basada en estadísticas t. En R varImp(model)aplicado en modelo lineal con características estandarizadas, se utiliza el valor absoluto del estadístico t para cada parámetro del...
Estoy leyendo Construcción de modelos multivariables: un enfoque pragmático para el análisis de regresión basado en polinomios fraccionados para modelar variables continuas de Patrick Royston y Willie Sauerbrei. Hasta ahora, estoy impresionado y es un enfoque interesante que no había considerado...
¿Cómo funciona realmente la estimación de parámetros / Entrenamiento de regresión logística? Trataré de poner lo que tengo hasta ahora. La salida es y la salida de la función logística en forma de probabilidad dependiendo del valor de
Cerrada . Esta pregunta está basada en la opinión . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que pueda ser respondida con hechos y citas editando esta publicación . Cerrado hace 2 años .