Distancia estadística entre moneda uniforme y sesgada

Vamos $U$ será la distribución uniforme sobre $n$ bits de, y dejar que $D$ sea la distribución sobre $n$ bits de donde los bits son independientes y cada bit se $1$ con una probabilidad de $1/2-\epsilon$ . ¿Es cierto que la distancia estadística entre $D$ y $U$ es $\Omega(\epsilon \sqrt{n})$ , cuando $n \le 1/\epsilon^2$ ?

pr.probability Manu
fuente

Si. La distancia estadística entre

U

$U$ y

V

$V$ es al menos

{P r}_{U} (\sum x_{i} > n / 2) - {P r}_{D} (\sum x_{i} > n / 2)

$\mathrm{Pr}_U(\sum x_i > n/2) - \mathrm{Pr}_D(\sum x_i > n/2)$ , que es

Ω (ε \sqrt{n})

$\Omega(\varepsilon \sqrt{n})$ ; vea, por ejemplo, la respuesta de matus aquí:cstheory.stackexchange.com/questions/14471/…

Yury

Gracias. ¿Quizás explique cómo obtener esto de lo que matus escribió en una respuesta que puedo aceptar?

Manu

Posiblemente útil: cstheory.stackexchange.com/q/22328/5038 , stats.stackexchange.com/q/17405/2921 .

Con respecto a la respuesta de Matus, puedes hacerlo mejor que la desigualdad de Slud; ver (2.13,2.14) en arxiv.org/abs/1606.08920

Aryeh

Respuestas:

$x_1,\dots, x_n$ $U$ $D$ $\Pr_U\left(\sum x_i \geq t\right) - \Pr_D\left(\sum x_i \geq t\right)$ $t$ $t = n/2 + \sqrt{n}$

Tenga en cuenta que para alguna constante absoluta . Si , entonces la distancia estadística es al menos , y hemos terminado. Entonces asumimos a continuación que . $\Pr_U\left(\sum x_i \geq t\right) \geq c_1$ $c_1 > 0$ $\Pr_D\left(\sum x_i \geq t\right) \leq c_1/2$ $c_1/2$ $\Pr_D\left(\sum x_i \geq t\right) \geq c_1/2$

Deje para iid Bernoulli variables aleatorias con . Nuestro objetivo es demostrar que . Por el teorema del valor medio, para algunos . Ahora, demostraremos que ; eso implicará que la distancia estadística deseada es al menos , según sea necesario. $f(s) = \Pr\left(\sum x_i \geq t\right)$ $x_1,\dots, x_n$ $\Pr(x_i = 1) = 1/2-s$ $f(0) - f(\varepsilon) = \Omega(\varepsilon \sqrt{n})$

f (0) - f (ε) = - ε f^{'} (ξ),

$f(0) - f(\varepsilon) = -\varepsilon f'(\xi),$

ξ \in (0, ε)

$\xi \in (0, \varepsilon)$

- f^{'} (ξ) \geq Ω (\sqrt{n})

$-f'(\xi) \geq \Omega(\sqrt{n})$

Ω (\sqrt{n} ε)

$\Omega(\sqrt{n} \varepsilon)$

Escribir, y Tenga en cuenta que Así,

f (ξ) = \sum_{k \geq t} (\binom{n}{k}) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k},

$f(\xi) = \sum_{k\geq t} \binom{n}{k} \left(\frac12 - \xi\right)^k \left(\frac12+\xi\right)^{n-k},$

\begin{aligned} f^{'} (ξ) & = \sum_{k \geq t} (\binom{n}{k}) (- k {(\frac{1}{2} - ξ)}^{k - 1} {(\frac{1}{2} + ξ)}^{n - k} + (n - k) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k - 1}) \\ = - \sum_{k \geq t} (\binom{n}{k}) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k} \frac{k / 2 + k ξ - (n - k) / 2 + (n - k) ξ}{(1 / 2 - ξ) (1 / 2 + ξ)} . \end{aligned}

$\begin{align} f'(\xi) &= \sum_{k\geq t} \binom{n}{k} \left(-k \left(\frac12 - \xi\right)^{k-1} \left(\frac12+\xi\right)^{n-k} + (n-k) \left(\frac12 - \xi\right)^{k} \left(\frac12+\xi\right)^{n-k-1}\right) \\ &= -\sum_{k\geq t} \binom{n}{k} \left(\frac12 - \xi\right)^{k} \left(\frac12+\xi\right)^{n-k}\frac{k/2 + k\xi - (n-k)/2 + (n-k)\xi}{(1/2 - \xi)(1/2 +\xi)}. \end{align}$

\frac{k / 2 + k ξ - (n - k) / 2 + (n - k) ξ}{(1 / 2 - ξ) (1 / 2 + ξ)} = \frac{(2 k - n) / 2 + n ξ}{(1 / 2 - ξ) (1 / 2 + ξ)} \geq 2 (2 t - n) = 4 \sqrt{n} .

$\frac{k/2 + k\xi - (n-k)/2 + (n-k)\xi}{\left(1/2 - \xi\right)\left(1/2 +\xi\right)} = \frac{(2k-n)/2 + n\xi}{(1/2 - \xi)(1/2 +\xi)} \geq 2(2t - n) = 4\sqrt{n}.$

\begin{aligned} - f^{'} (ξ) & \geq 4 \sqrt{n} \sum_{k \geq t} (\binom{n}{k}) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k} \\ = 4 \sqrt{n} f (ξ) \geq 4 \sqrt{n} f (ε) \geq 4 \sqrt{n} \cdot (c_{1} / 2) . \end{aligned}

$\begin{align}-f'(\xi) &\geq 4\sqrt{n} \sum_{k\geq t} \binom{n}{k} \left(\frac12 - \xi\right)^{k} \left(\frac12+\xi\right)^{n-k} \\&= 4\sqrt{n} f(\xi) \geq 4\sqrt{n} f(\varepsilon) \geq 4\sqrt{n}\cdot (c_1/2).\end{align}$ Aquí, usamos el supuesto de que . Mostramos que .

f (ε) = \underset{D}{Pr} (x_{1} + \dots + x_{n} \geq t) \geq c_{1} / 2

$f(\varepsilon) = \Pr_D(x_1+\dots+x_n \geq t) \geq c_1/2$

- f^{'} (ξ) = Ω (\sqrt{n})

$-f'(\xi) = \Omega(\sqrt{n})$

Yury
fuente

Una prueba algo más elemental y un poco más desordenada (o al menos eso me parece).

Por conveniencia, escriba , con por supuesto. $\varepsilon = \frac{\gamma}{\sqrt{n}}$ $\gamma\in [0,1)$

Explicitamente limitamos la expresión de : $\operatorname{d}_{\rm TV}{(P,U)}$

\begin{aligned} 2 d_{T V} (P, U) & = \sum_{x \in {0, 1}^{n}} | {(\frac{1}{2} + \frac{γ}{\sqrt{n}})}^{| x |} {(\frac{1}{2} - \frac{γ}{\sqrt{n}})}^{n - | x |} - \frac{1}{2^{n}} | \\ = \frac{1}{2^{n}} \sum_{k = 0}^{n} (\binom{n}{k}) | {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} - 1 | \\ \geq \frac{1}{2^{n}} \sum_{k = \frac{n}{2} + \sqrt{n}}^{\frac{n}{2} + 2 \sqrt{n}} (\binom{n}{k}) | {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} - 1 | \\ \geq \frac{C}{\sqrt{n}} \sum_{k = \frac{n}{2} + \sqrt{n}}^{\frac{n}{2} + 2 \sqrt{n}} | {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} - 1 | \end{aligned}

$\begin{align*} 2\operatorname{d}_{\rm TV}{(P,U)} &= \sum_{x\in\{0,1\}^n} \left\lvert{ \left( \frac{1}{2} + \frac{\gamma }{\sqrt{n}} \right)^{\lvert{x}\rvert}\left( \frac{1}{2} - \frac{\gamma }{\sqrt{n}} \right)^{n-\lvert{x}\rvert} - \frac{1}{2^n} }\right\rvert \\ &= \frac{1}{2^n}\sum_{k=0}^n \binom{n}{k}\left\lvert{ \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} - 1 }\right\rvert \\ &\geq \frac{1}{2^n}\sum_{k=\frac{n}{2}+\sqrt{n}}^{\frac{n}{2}+2\sqrt{n}} \binom{n}{k}\left\lvert{ \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} - 1 }\right\rvert \\ &\geq \frac{C}{\sqrt{n}}\sum_{k=\frac{n}{2}+\sqrt{n}}^{\frac{n}{2}+2\sqrt{n}} \left\lvert{ \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} - 1 } \right\rvert \end{align*}$ donde es una constante absoluta. Reducimos el límite de cada sumando por separado: arreglando y escribiendo , para que cada sumando esté limitado por una cantidad que converja (cuando ) a

C > 0

$C>0$

k

$k$

ℓ = k - \frac{n}{2} \in [\sqrt{n}, 2 \sqrt{n}]

$\ell = k-\frac{n}{2} \in [\sqrt{n},2\sqrt{n}]$

\begin{aligned} {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} & = {(1 - \frac{4 γ^{2}}{n})}^{n / 2} {(\frac{1 + \frac{2 γ}{\sqrt{n}}}{1 - \frac{2 γ}{\sqrt{n}}})}^{ℓ} \\ \geq {(1 - \frac{4 γ^{2}}{n})}^{n / 2} {(\frac{1 + \frac{2 γ}{\sqrt{n}}}{1 - \frac{2 γ}{\sqrt{n}}})}^{\sqrt{n}} \to_{n \to \infty}^{} e^{4 γ - 2 γ^{2}} \end{aligned}

$\begin{align*} \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} &= \left( 1 - \frac{4\gamma ^2}{n} \right)^{n/2}\left( \frac{1 + \frac{2\gamma }{\sqrt{n}}}{1 - \frac{2\gamma }{\sqrt{n}}}\right)^\ell \\ &\geq \left( 1 - \frac{4\gamma ^2}{n} \right)^{n/2}\left( \frac{1 + \frac{2\gamma }{\sqrt{n}}}{1 - \frac{2\gamma }{\sqrt{n}}}\right)^{\sqrt{n}} \xrightarrow[n\to\infty]{} e^{4\gamma -2\gamma ^2} \end{align*}$

n \to \infty

$n\to \infty$

e^{4 γ - 2 γ^{2}} - 1 > 4 γ - 2 γ^{2} > 2 γ

$e^{4\gamma -2\gamma ^2}-1 > 4\gamma -2\gamma ^2 > 2\gamma$ ; lo que implica que cada uno es . En resumen, esto produce como se afirma.

Ω (γ)

$\Omega(\gamma )$

\begin{aligned} 2 d_{T V} (P, U) & \geq \frac{C}{\sqrt{n}} \sum_{k = \frac{n}{2} + \sqrt{n}}^{\frac{n}{2} + 2 \sqrt{n}} Ω (γ) = Ω (γ) = Ω (ε \sqrt{n}) \end{aligned}

$\begin{align*} 2\operatorname{d}_{\rm TV}{(P,U)} &\geq \frac{C}{\sqrt{n}}\sum_{k=\frac{n}{2}+\sqrt{n}}^{\frac{n}{2}+2\sqrt{n}} \Omega(\gamma ) = \Omega(\gamma) = \Omega(\varepsilon\sqrt{n}) \end{align*}$

Clemente C.
fuente

(Usar Hellinger como proxy debido a sus buenas propiedades de distribución de productos wrt es tentador y sería mucho más rápido, pero habría una pérdida por un factor cuadrático en el límite inferior final).

Clement C.

¡Agradable! Me gusta el enfoque elemental. También deberíamos poder hacerlo no asintótico en ... una forma es usar , luego usa la agradable desigualdad . Un poco desordenado

n

$n$

{(\frac{1 + z}{1 - z})}^{\sqrt{n}} \geq {(1 + 2 z)}^{\sqrt{n}}

$\left(\frac{1+z}{1-z}\right)^{\sqrt{n}} \geq \left(1 + 2z\right)^{\sqrt{n}}$

1 + w \geq e^{w - w^{2} / 2}

$1+w \geq e^{w - w^2/2}$

usul