¿Por qué el coeficiente de correlación entre las variables aleatorias X y XY tiende a ser 0.7

Tomado de Estadísticas prácticas para la investigación médica donde Douglas Altman escribe en la página 285:

... para cualesquiera dos cantidades, X e Y, X se correlacionará con XY. De hecho, incluso si X e Y son muestras de números aleatorios, esperaríamos que la correlación de X e XY sea 0.7

Intenté esto en R y parece ser el caso:

x <- rnorm(1000000, 10, 2)
y <- rnorm(1000000, 10, 2)
cor(x, x-y)

xu <- sample(1:100, size = 1000000, replace = T)
yu <- sample(1:100, size = 1000000, replace = T)
cor(xu, xu-yu)

¿Porqué es eso? ¿Cuál es la teoría detrás de esto?

Si e Y son variables aleatorias no correlacionadas con igual varianza σ 2 , entonces tenemos esa var ( X - Y $X$$Y$$\sigma^2$ En consecuencia,ρX,X-Y=cov(X,X-Y

$$\begin{align} \operatorname{var}(X-Y) &= \operatorname{var}(X) + \operatorname{var}(-Y)\\ &= \operatorname{var}(X) + \operatorname{var}(Y)\\ &=2\sigma^2,\\ \operatorname{cov}(X, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) & \text{bilinearity of covariance operator}\\ &= \operatorname{var}(X) - 0 & 0 ~\text{because}~X ~\text{and}~ Y ~\text{are uncorrelated}\\ &= \sigma^2. \end{align}$$ Entonces, cuando encuentre ∑ n i = 1 (xi- ˉ x )((xi-yi)-( ˉ x - ˉ y ) $$\rho_{X,X-Y} = \frac{\operatorname{cov}(X, X-Y)}{\sqrt{\operatorname{var}(X)\operatorname{var}(X-Y)}}= \frac{\sigma^2}{\sqrt{\sigma^2\cdot2\sigma^2}} = \frac{1}{\sqrt{2}}.$$ la correlación muestral dexyx-ypara un conjunto de datos grande{(xi,yi):1≤i≤ $$\frac{\sum_{i=1}^n\left(x_i - \bar{x}\right) \left((x_i-y_i) - (\bar{x}-\bar{y})\right)}{ \sqrt{\sum_{i=1}^n\left(x_i - \bar{x}\right)^2 \sum_{i=1}^n\left((x_i-y_i) - (\bar{x}-\bar{y})\right)^2}}$$ $x$$x-y$ extraído de una población con estas propiedades, que incluye "números aleatorios" como un caso especial, el resultado tiende a estar cerca del valor de correlación de población$\{(x_i,y_i)\colon 1 \leq i \leq n\}$$\frac{1}{\sqrt{2}} \approx 0.7071\ldots$

Una explicación geométrica-estadística.

$n$ $2$ $X$$Y$$X$$Y$

$X$$Y$$r=0$

$X$$Y$

$X-Y$$X+Y$

$X-Y$$X+Y$$\sqrt{2\sigma^2}$$X$$X-Y$$X+Y$$0.707...$

Creo que aquí también hay una intuición simple basada en la simetría. Como X e Y tienen las mismas distribuciones y tienen una covarianza de 0, la relación de X ± Y con X debería "explicar" la mitad de la variación en X ± Y; la otra mitad debería explicarse por Y. Entonces, R ² debería ser 1/2, lo que significa que R es 1 / √2 ≈ 0.707.

Aquí hay una manera simple de pensar por qué hay una correlación aquí.

Imagine lo que sucede cuando resta dos distribuciones. Si el valor de x es bajo, entonces, en promedio, x - yserá un valor más bajo que si el valor de x es alto. A medida que x aumenta, entonces x - yaumenta, en promedio, y por lo tanto, una correlación positiva.