Cálculo del tamaño de muestra requerido, precisión de la estimación de la varianza?

Antecedentes

Tengo una variable con una distribución desconocida.

Tengo 500 muestras, pero me gustaría demostrar la precisión con la que puedo calcular la varianza, por ejemplo, argumentar que un tamaño de muestra de 500 es suficiente. También estoy interesado en conocer el tamaño mínimo de muestra que se requeriría para estimar la varianza con una precisión de $X\%$ .

Preguntas

Como puedo calcular

1. ¿La precisión de mi estimación de la varianza dado un tamaño de muestra de $n=500$ ? de $n=N$ ?
2. ¿Cómo puedo calcular el número mínimo de muestras necesarias para estimar la varianza con una precisión de $X$ ?

Ejemplo

Figura 1 estimación de densidad del parámetro basada en las 500 muestras.

Figura 2 Aquí hay una gráfica del tamaño de la muestra en el eje x frente a las estimaciones de varianza en el eje y que he calculado usando submuestras de la muestra de 500. La idea es que las estimaciones converjan a la varianza verdadera a medida que n aumenta .

Sin embargo, las estimaciones no son válidas independientemente ya que las muestras utilizadas para estimar la varianza para no son independientes entre sí o de las muestras utilizadas para calcular la varianza en n ∈ [ 20 , 40 , 80 $n \in [10,125,250,500]$$n\in [20,40,80]$

Para las variables aleatorias iid , el estimador insesgado para la varianza s $X_1, \dotsc, X_n$$s^2$ (la que tiene el denominador ) tiene varianza:$n-1$

$$\mathrm{Var}(s^2) = \sigma^4 \left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$$

donde es el exceso de curtosis de la distribución (referencia: Wikipedia ). Entonces ahora también necesita estimar la curtosis de su distribución. Puede usar una cantidad a veces descrita como γ 2 (también de Wikipedia ):$\kappa$$\gamma_2$

$$\gamma_2 = \frac{\mu_4}{\sigma_4} - 3$$

Supongo que si usa como una estimación para σ y γ 2 como una estimación para κ , obtendrá una estimación razonable para V a r ( s 2 ) , aunque no veo una garantía de que sea imparcial. Vea si coincide con la variación entre los subconjuntos de sus 500 puntos de datos razonablemente, y si ya no se preocupa por eso :)$s$$\sigma$$\gamma_2$$\kappa$$\mathrm{Var}(s^2)$

Aprender una variación es difícil.

Se necesita un (quizás sorprendentemente) gran número de muestras para estimar bien una varianza en muchos casos. A continuación, mostraré el desarrollo del caso "canónico" de una muestra iid normal.

Suponga que , i = 1 , ... , n son variables aleatorias independientes N ( μ , σ 2 ) . Buscamos un intervalo de confianza del 100 ( 1 - α ) % para la varianza de modo que el ancho del intervalo sea ρ s 2 , es decir, el ancho sea el 100 ρ % de la estimación puntual. Por ejemplo, si ρ = 1 / 2 , entonces la anchura de la CI es la mitad del valor de la estimación puntual, por ejemplo, si$Y_i$$i=1,\ldots,n$$\mathcal{N}(\mu, \sigma^2)$$100(1-\alpha)\%$$\rho s^2$$100\rho \%$$\rho = 1/2$ , entonces el IC sería algo así como ( 8 $s^2 = 10$ , que tiene un ancho de 5. Observe también la asimetría alrededor de la estimación puntual. ( s 2 es el estimador imparcial de la varianza).$(8,\,13)$$s^2$

El "intervalo de confianza" (más bien, "a") para es ( n - 1 ) s $s^2$ donde χ

$$\frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \leq \sigma^2 \leq \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} \>,$$ es laβcuantil de la distribución chi-cuadrado conn-1grados de libertad. (Esto surge del hecho de que(n-1)s2/σ2es una cantidad fundamental en un entorno gaussiano).$\chi_{(n-1)}^{2\;\beta}$$\beta$$n-1$$(n-1)s^2/\sigma^2$

Queremos minimizar el ancho para que por lo que nos queda resolver para n tal que ( n - 1 ) (

$$L(n) = \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} < \rho s^2 \>,$$ $n$ $$(n-1) \left(\frac{1}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{1}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \right) < \rho .$$

Para el caso de un intervalo de confianza 99%, obtenemos para ρ = 1 y n = 5321 para ρ = 0,1 . Este último caso produce un intervalo que es ( ¡todavía! ) 10% tan grande como la estimación puntual de la varianza.$n = 65$$\rho = 1$$n = 5321$$\rho = 0.1$

Si su nivel de confianza elegido es inferior al 99%, se obtendrá el mismo intervalo de ancho para un valor inferior de . Pero, n aún puede ser más grande de lo que habría imaginado.$n$$n$

Una gráfica del tamaño de muestra versus el ancho proporcional ρ muestra algo que se ve asintóticamente lineal en una escala log-log; en otras palabras, una relación de poder-ley. Podemos estimar el poder de esta relación poder-ley (crudamente) como$n$$\rho$

$$\hat{\alpha} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{-\log 10}{\log \frac{5231}{65}} \approx -0.525 ,$$

que, lamentablemente, ¡es decididamente lento!

---

Este es el caso "canónico" para darle una idea de cómo hacer el cálculo. Según sus gráficos, sus datos no se ven particularmente normales; en particular, existe lo que parece ser un sesgo notable.

Pero, esto debería darle una idea general de qué esperar. Tenga en cuenta que para responder a su segunda pregunta anterior, es necesario corregir primero un cierto nivel de confianza, que he establecido en 99% en el desarrollo anterior para fines de demostración.

I would focus on the SD rather than the variance, since it's on a scale that is more easily interpreted.

People do sometimes look at confidence intervals for SDs or variances, but the focus is generally on means.

The results you give for the distribution of $s^2/\sigma^2$ se puede usar para obtener un intervalo de confianza para $\sigma^2$ (y también $\sigma$); most introductory math/stat texts would give the details in the same section in which the ditribution of $\sigma^2$ was mentioned. I would just take 2.5% from each tail.

The following solution was given by Greenwood and Sandomire in a 1950 JASA paper.

Let $X_1,\dots,X_n$ be a random sample from a $\mathrm{N}(\mu,\sigma^2)$ distribution. You will make inferences about $\sigma$ using as (biased) estimator the sample standard deviation

$$S=\sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X})^2}{n-1}},$$ and you want to control the probability that the relative deviation between $S$ and $\sigma$ is within a fraction $0<u<1$. That is, $$\Pr\{S<(1-u)\cdot\sigma\}=a \quad\text{and}\quad \Pr\{S>(1+u)\cdot\sigma\}=b,$$ in which the significance level $\gamma=1-a-b$.

It follows that

$$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} < (n-1)(1-u)^2\right\} = a$$ and $$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} > (n-1)(1+u)^2\right\} = b.$$ Since the pivotal quantity $(n-1)S^2/\sigma^2$ has $\chi^2_{n-1}$ distribution, adding the two probabilities, we find

$$\gamma = F_{\chi^2_{(n-1)}}((n-1)(1+u)^2) - F_{\chi^2_{(n-1)}}((n-1)(1-u)^2),$$

and the necessary sample size is found solving the former equation in $n$ for given $\gamma$ and $u$.

R code.

gamma <- 0.95
u <- 0.1
g <- function(n) pchisq((n-1)*(1+u)^2, df = n-1) - pchisq((n-1)*(1-u)^2, df = n-1) - gamma
cat("Sample size n = ", ceiling(uniroot(g, interval = c(2, 10^6))$root), "\n")

Output for $u=10\%$ and $\gamma=95\%$.

Sample size n = 193