Para resolver problemas de selección de modelo, varios métodos (LASSO, regresión de cresta, etc.) reducirán los coeficientes de las variables predictoras hacia cero. Estoy buscando una explicación intuitiva de por qué esto mejora la capacidad predictiva. Si el verdadero efecto de la variable fue...
He leído mucho sobre PCA, incluidos varios tutoriales y preguntas (como este , este , este y este ). El problema geométrico que PCA está tratando de optimizar es claro para mí: PCA trata de encontrar el primer componente principal minimizando el error de reconstrucción (proyección), que maximiza...
He leído sobre la descomposición de valores singulares (SVD). En casi todos los libros de texto se menciona que factoriza la matriz en tres matrices con especificación dada. Pero, ¿cuál es la intuición detrás de dividir la matriz en tal forma? PCA y otros algoritmos para la reducción de...
¿Cómo explicaría iid (independiente e idénticamente distribuido) a personas no
Tomado de Estadísticas prácticas para la investigación médica donde Douglas Altman escribe en la página 285: ... para cualesquiera dos cantidades, X e Y, X se correlacionará con XY. De hecho, incluso si X e Y son muestras de números aleatorios, esperaríamos que la correlación de X e XY sea...
Aprendí acerca de la intuición detrás de la divergencia de KL sobre cuánto difiere una función de distribución del modelo de la distribución teórica / verdadera de los datos. La fuente que estoy leyendo pasa a decir que la comprensión intuitiva de 'distancia' entre estas dos distribuciones es útil,...
Estoy completamente ciego y vengo de un fondo de programación. Lo que intento hacer es aprender el aprendizaje automático, y para hacer esto, primero necesito aprender sobre la regresión lineal. Todas las explicaciones en Internet que encuentro sobre este tema trazan primero los datos. Estoy...
El ejemplo de Stein muestra que la estimación de máxima verosimilitud de nnn variables normalmente distribuidas con medias μ1,…,μnμ1,…,μn\mu_1,\ldots,\mu_n varianzas 111 es inadmisible (bajo una función de pérdida cuadrada) si f n≥3n≥3n\ge 3 . Para una prueba clara, vea el primer capítulo de...
Veo que el concepto de 'intercambiabilidad' se usa en diferentes contextos (por ejemplo, modelos bayesianos) pero nunca he entendido muy bien el término. ¿Qué significa este concepto? ¿En qué circunstancias se invoca este concepto y por
De Wikipedia: Supongamos que está en un programa de juegos y le dan la opción de tres puertas: detrás de una puerta hay un automóvil; detrás de los demás, cabras. Usted elige una puerta, dice el número 1, y el anfitrión, que sabe lo que hay detrás de las puertas, abre otra puerta, dice el número...
Supongamos que XXX es una variable aleatoria con pdf fX(x)fX(x)f_X(x) . Entonces la variable aleatoria Y=X2Y=X2Y=X^2 tiene el pdf fY(y)={12y√(fX(y√)+fX(−y√))0y≥0y<0fY(y)={12y(fX(y)+fX(−y))y≥00y<0f_Y(y)=\begin{cases}\frac{1}{2\sqrt{y}}\left(f_X(\sqrt{y})+f_X(-\sqrt{y})\right) & y \ge 0 \\ 0 &...
Una versión muy simple del teorema limitado central como se muestra a continuación que es Lindeberg – Lévy CLT. No entiendo por qué hay un en el lado izquierdo. Y Lyapunov CLT dice pero por qué no ? ¿Alguien me diría cuáles son estos factores, como y ? ¿Cómo los conseguimos en el...
Recientemente aprendí sobre un principio de razonamiento probabilístico llamado " explicar lejos ", y estoy tratando de captar una intuición para ello. Déjame configurar un escenario. Sea AAA el evento de que ocurra un terremoto. Que el evento BBB sea el evento de que el gigante verde alegre...
Este mensaje en un artículo de Reuter del 25.02.2019 está actualmente en todas las noticias: La evidencia del calentamiento global provocado por el hombre alcanza el 'estándar de oro' [Los científicos] dijeron que la confianza de que las actividades humanas estaban elevando el calor en la...
¿Cuál es la diferencia entre la varianza finita e infinita? Mi conocimiento de estadísticas es bastante básico; Wikipedia / Google no fue de mucha ayuda
La fórmula para la probabilidad condicional de que ocurra dado que ha sucedido es:AA\text{A}BB\text{B}P(A | B)=P(A∩B)P(B).P(A | B)=P(A∩B)P(B). P\left(\text{A}~\middle|~\text{B}\right)=\frac{P\left(\text{A} \cap \text{B}\right)}{P\left(\text{B}\right)}. Mi libro de texto explica la intuición...
Los modelos aditivos generalizados son aquellos donde y=α+f1(x1)+f2(x2)+eiy=α+f1(x1)+f2(x2)+ei y = \alpha + f_1(x_1) + f_2(x_2) + e_i por ejemplo. Las funciones son suaves y se deben estimar. Generalmente por splines penalizadas. MGCV es un paquete en R que lo hace, y el autor (Simon Wood)...
Supongamos que tenemos una variable aleatoria . Si fuera el parámetro verdadero, la función de probabilidad debería maximizarse y la derivada igual a cero. Este es el principio básico detrás del estimador de máxima verosimilitud.X∼f(x|θ)X∼f(x|θ)X \sim f(x|\theta)θ0θ0\theta_0 Según tengo entendido,...
Estoy tratando de entender un documento sobre el pronóstico de la carga eléctrica, pero estoy luchando con los conceptos internos, especialmente el modelo SARIMAX . Este modelo se usa para predecir la carga y utiliza muchos conceptos estadísticos que no entiendo (soy un estudiante universitario de...
Citando la gran respuesta de Gung Supuestamente, un investigador una vez se acercó a Fisher con resultados "no significativos", preguntándole qué debería hacer, y Fisher dijo: "ve a buscar más datos". Desde una perspectiva de Neyman-Pearson, esto es flagrante ppp -hacking, pero no es un caso...