¿Qué sucede con la razón de probabilidad a medida que se recopilan cada vez más datos?

Permiten , y sean densidades y supongamos que tiene , . ¿Qué sucede con la razón de probabilidad como ? (¿Converge? ¿A qué?) $f$ $g$ $h$ $x_i \sim h$ $i \in \mathbb{N}$

\prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$

n \to \infty

$n \rightarrow \infty$

Por ejemplo, podemos suponer . El caso general también es de interés. $h = g$

convergence asymptotics likelihood-ratio Olivier
fuente

Posible duplicado de la divergencia Kullback-Leibler SIN teoría de la información

Xi'an

@ Xi'an. Creo que agregar esta pregunta a SE permite establecer la conexión entre las preguntas de la respuesta. Si bien puede haber similitudes de respuesta, las preguntas no son las mismas.

John

Gracias por el enlace. La pregunta no es un duplicado, aunque las respuestas a mi pregunta pueden involucrar la divergencia Kullback-Leibler.

Olivier

Respuestas:

Si se toma el logaritmo de este producto, y lo convierte en un promedio aplica la ley de los números grandes, por lo tanto, uno obtiene la convergencia casi segura suponiendo que esta integral esté bien definida [los contraejemplos son fáciles de encontrar].

r = \log \prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})} = \sum_{i = 1}^{n} \log \frac{f (x_{i})}{g (x_{i})}

${\mathfrak{r}}=\log \prod_{i=1}^n \frac{f(x_i)}{g(x_i)} = \sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$

{\bar{r}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} \log \frac{f (x_{i})}{g (x_{i})}

$\bar{\mathfrak{r}}_n=\frac{1}{n}\sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$

{\bar{r}}_{n} \overset{a.s.}{⟶} E_{h} [\log \frac{f (X)}{g (X)}] = \int_{X} \log \frac{f (x)}{g (x)} h (x) d x

$\bar{\mathfrak{r}}_n\stackrel{\text{a.s.}}{\longrightarrow}\mathbb{E}_h\left[\log \frac{f(X)}{g(X)}\right]=\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$

Por ejemplo, si , y son densidades para las distribuciones normales con medias , y cero, respectivamente, todas con varianza uno, el valor de es $f$ $g$ $h$ $\mu_1$ $\mu_2$

\int_{X} \log \frac{f (x)}{g (x)} h (x) d x

$\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$

\int_{X} {(x - μ_{1})^{2} - (x - μ_{2}^{2})} φ (x) d x = μ_{1}^{2} - μ_{2}^{2} .

$\int_\mathfrak{X} \{(x-\mu_1)^2-(x-\mu^2_2)\}\,\varphi(x)\,\text{d}x= \mu_1^2-\mu^2_2\,.$

Tenga en cuenta también que, sin el promedio, el producto casi seguramente converge a cero (cuando ) . Mientras que el producto casi seguramente converge a cero o infinito dependiendo de si o está más cerca de en el sentido de divergencia Kullback-Leibler (cuando ).

\prod_{i = 1}^{n} \frac{f (x_{i})}{h (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{h(x_i)}$

x_{i} \sim h (x)

$x_i\sim h(x)\,$

\prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$

g

$g$

f

$f$

h

$h$

x_{i} \sim h (x)

$x_i\sim h(x)\,$

Xi'an
fuente

¿Podría concluir una respuesta? ¿La última integral no es cero (digamos cuando )?

g = h

$g=h$

Olivier

¿Por qué debería ser cero? Si es cero; si y es positivo. Y si y es negativo. También puede ser cero para , y si y están a la misma distancia de .

f = g

$f=g$

f = h

$f=h$

g \neq h

$g\ne h$

g = h

$g=h$

f \neq h

$f\ne h$

f \neq h

$f\ne h$

f \neq g

$f\ne g$

g \neq h

$g \ne h$

f

$f$

g

$g$

h

$h$

Xi'an

¿Qué quieres decir a la misma distancia de ? ¿Podrías dar más detalles? Su respuesta es interesante pero (todavía) no responde directamente la pregunta.

h

$h$

Olivier

La pregunta principal Como , es el signo de la última integral el que determina el comportamiento asintótico de la relación.

r = n r_{n}

$\mathfrak{r}= n \mathfrak{r}_n$

Olivier

Deje . Considere la cantidad Por ley fuerte de números grandes, $Z_n = \prod^n_i \frac{p(x)}{q(x)}$

W_{n} = \frac{1}{n} l o g (Z_{n}) = \frac{1}{n} \sum_{i}^{n} l o g (\frac{p (x)}{q (x)})

$W_n = \frac{1}{n}log(Z_n) = \frac{1}{n}\sum_i^n log(\frac{p(x)}{q(x)})$

lim_{n \to \infty} W_{n} = E_{q (x)} [l o g (\frac{p (x)}{q (x)})] = \int_{X} l o g (\frac{p (x)}{q (x)}) q (x) d x

$\lim_{n \rightarrow \infty} W_n = E_{q(x)}[log(\frac{p(x)}{q(x)})] = \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx$

Dado que y that , $log(a) < a-1 \ \forall a > 0$ $a \neq 1$ $\frac{p(x)}{q(x)} > 0$ $p(x) \neq q(x)$

W_{n} \to \int_{X} l o g (\frac{p (x)}{q (x)}) q (x) d x < \int_{X} (\frac{p (x)}{q (x)} - 1) q (x) d x = \int_{X} p (x) d x - \int_{X} q (x) d x = 1 - 1 = 0

$W_n \rightarrow \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx < \int_\mathcal{X} (\frac{p(x)}{q(x)} - 1)q(x)dx = \int_\mathcal{X} p(x)dx - \int_\mathcal{X} q(x)dx = 1 - 1 = 0$ Esto nos da

lim_{n \to \infty} W_{n} < 0 ⟹ lim_{n \to \infty} \frac{1}{n} l o g (Z_{n}) < 0 ⟹ lim_{n \to \infty} n \cdot \frac{1}{n} l o g (Z_{n}) = - \infty ⟹ lim_{n \to \infty} l o g (Z_{n}) = - \infty ⟹ lim_{n \to \infty} Z_{n} = 0 ◼

$\lim_{n \rightarrow \infty} W_n < 0 \implies \lim_{n \rightarrow \infty} \frac{1}{n}log(Z_n) < 0 \implies \lim_{n \rightarrow \infty} n \cdot \frac{1}{n}log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} Z_n = 0 \ \blacksquare$

bgao
fuente