Función de probabilidad de datos truncados

Tengo algunos problemas para comprender el concepto y la derivación de la probabilidad de datos truncados.

Por ejemplo, si quiero encontrar la función de probabilidad basada en una muestra de una distribución, pero al tomar una muestra de la distribución, observo los valores truncados (donde hay un corte de , es decir, cualquier se registra como ):$M$$x_{i}>M$$M$

$x_{1}, x_{2}, M, x_{3}, M, x_{4}, x_{5}, ..., x_{10}$

donde el número de $M$ valores es $m$. Entonces, la probabilidad supuestamente viene dada por:

$L(x;\theta) = \prod_{i=1}^{10}f(x_{i};\theta)*[P(X>M)]^{m}$

Agradecería mucho una explicación / prueba de por qué esto es así, sobre todo por qué el segundo factor es como es. Intuitivamente y matemáticamente si es posible. Muchas gracias de antemano.

Lo que usted describe las necesidades de un tratamiento especial, que no es lo que normalmente se entiende por "variables aleatorias truncados" -y lo que se suele decir es que la variable aleatoria no no cubre por fuera del soporte truncada, lo que significa que hay no una concentración de masa de probabilidad a El punto de truncamiento. Para contrastar casos:

A) Significado "usual" de un rv truncado
Para cualquier distribución que trunquemos su soporte, debemos "corregir" su densidad para que se integre a la unidad cuando se integre sobre el soporte truncado. Si la variable tiene soporte en$[a,b]$, $-\infty < a < b < \infty$, entonces (pdf $f$, cdf $F$)

$$\int_a^bf_X(x)dx = \int_a^Mf_X(x)dx+\int_M^bf_X(x)dx = \int_a^Mf_X(x)dx + \left[1-F_X(M)\right]=1$$

$$\Rightarrow \int_a^Mf_X(x)dx = F_X(M)$$

Como el LHS es la integral sobre el soporte truncado, vemos que la densidad del rv truncado, llámelo $\tilde X$, debe ser

$$f_{\tilde X}(\tilde x) = f_{X}(x\mid X\le M)=f_X(x)dx\cdot \left[F_X(M)\right]^{-1}$$ para que se integre a la unidad sobre $[a, M]$. El término medio en la expresión anterior nos hace pensar en esta situación (con razón) como una forma de condicionamiento, pero no en otra variable aleatoria, sino en los posibles valores que puede tomar el propio rv. Aquí una función conjunta de densidad / probabilidad de una colección de$n$ truncado iid rv sería $n$ veces la densidad anterior, como siempre.

B) Probabilidad de concentración de masa
Aquí, que es lo que usted describe en la pregunta, las cosas son diferentes. El punto$M$ concentra toda la masa de probabilidad que corresponde al soporte de la variable mayor que $M$. Esto crea un punto de discontinuidad en la densidad y hace que tenga dos ramas

$$\begin{align} f_{X^*}(x^*) &= f_X(x^*) \qquad x^*<M\\ f_{X^*}(x^*) &= P(X^* \ge M) \qquad x^*\ge M\\ \end{align}$$

Informalmente, el segundo es "como un rv discreto" donde cada punto en la función de masa de probabilidad representa probabilidades reales. Ahora supongamos que tenemos$n$tales variables aleatorias iid, y queremos formar su función conjunta de densidad / probabilidad. Antes de mirar la muestra real, ¿qué rama debemos elegir? No podemos tomar esa decisión, así que tenemos que incluir de alguna manera ambos. Para hacer esto, necesitamos usar funciones de indicador: denotar$I\{x^*\ge M\}\equiv I_{\ge M}(x^*)$ la función del indicador que toma el valor $1$ cuando $x^*\ge M$y $0$de otra manera. La densidad de tal rv se puede escribir

$$f_{X^*}(x^*) = f_X(x^*)\cdot \left[1-I_{\ge M}(x^*)\right]+P(X^* \ge M)\cdot I_{\ge M}(x^*)$$ y, por lo tanto, la función de densidad articular de $n$ tales variables iid son

$$f_{X^*}(\mathbf X^*\mid \theta) = \prod_{i=1}^n\Big[f_X(x^*_i)\cdot \left[1-I_{\ge M}(x^*_i)\right]+P(X^*_i \ge M)\cdot I_{\ge M}(x^*_i)\Big]$$

Ahora, lo anterior visto como una función de probabilidad, la muestra real consiste en la realización de estos$n$entra en juego variables aleatorias. Y en esta muestra, algunas realizaciones observadas serán más bajas que el umbral$M$, algunos iguales. Denotar$m$ el número de realizaciones en la muestra que es igual a $M$y $v$ todo el resto, $m+v=n$. Es inmediato que para el$m$ realizaciones, la parte correspondiente de la densidad que permanecerá en la probabilidad será la $P(X^*_i \ge M)$ parte, mientras que para el $v$realizaciones, la otra parte. Entonces

$$\begin{align} L(\theta\mid \{x_i^*;\,i=1,...n\})&= \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \prod_{j=1}^m\Big[P(X^*_j \ge M)\Big] \\& = \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \Big[P(X^* \ge M)\Big]^m\\ \end{align}$$

La teoría de la probabilidad es un marco bastante general. La mayoría de los libros de texto indican resultados para los casos separados de r.vs continuos y para eso para r.vs. discretos Sin embargo, en la práctica ocurren casos mixtos, como es el caso aquí.

Por un discreto rv $A$, la probabilidad de una observación $a$ se define como la probabilidad de obtener el valor observado $a$decir $p_A(a)$. Para un rv continuo la probabilidad$L$ generalmente se define como la densidad en $x$decir $f_X(x)$. Sin embargo, en la práctica solo se sabe que$x_{\textrm{L}} < X < x_{\textrm{U}}$ - debido a una precisión de medición limitada, y $\Pr\left\{x_{\textrm{L}} < X < x_{\textrm{U}}\right\}$debe usarse como probabilidad. Tomando $x_{\textrm{L}}:= x - \textrm{d}x/2$, $x_{\textrm{U}}:= x + \textrm{d}x/2$ con $\mathrm{d}x$ pequeño, obtenemos $f_X(x)$ hasta un multiplicativo $\mathrm{d}x$lo que no importa Por lo tanto, la definición habitual se puede considerar como asumiendo implícitamente una precisión infinita en la observación.

Por un par de r.vs $A$ y $X$ con un tipo mixto mixto discreto / continuo, la probabilidad será la distribución conjunta, que generalmente se expresa usando distribuciones condicionales, por ejemplo

$$L := \textrm{Pr}\left\{ A = a, \, x_{\textrm{L}} < X < x_{\textrm{U}} \right\} = \textrm{Pr}\left\{ A = a \right\} \times \textrm{Pr} \left\{x_{\textrm{L}} < X < x_{\textrm{U}} \, \vert\, A = a\right\}.$$ Así por un intervalo $(x_{\textrm{L}},\, x_{\textrm{U}})$ con longitud pequeña $\textrm{d}x$, $L$ es $p_A(a)$ veces la densidad de $X$ condicional en $\{A=a\}$decir $f_{X \vert A}(x \,\vert \,a)$. Nuevamente, omitimos el$\mathrm{d}x$ término.

Ahora volvamos a su ejemplo y consideremos solo una observación. Entonces$A = 1_{\{X > M\}}$ es un rv Bernoulli con probabilidad de éxito $\Pr\{X > M\}$. Dependiendo de$X > M$ o no, o solo observas $A = 1$ o observas ambos $A = 0$ y el valor $x$ de $X$. En ambos casos, usa la fórmula anterior, pero$(x_{\textrm{L}},\, x_{\textrm{U}})$ se toma como $(M,\,\infty)$ o como un intervalo de pequeña longitud $\textrm{d}x$ que contiene $x$. De hecho, esto da

$$L = \begin{cases} \textrm{Pr} \left\{X > M \right\} \times 1 & \textrm{if } X > M \textrm{ i.e. } A =1,\\ \textrm{Pr} \left\{X \leq M\right\} \times f_{X \vert A}(x \,\vert \,a)\,\textrm{d}x & \textrm{if } X \leq M \textrm{ i.e. } A = 0. \end{cases}$$ Ya que $f_{X \vert A}(x \,\vert \,0) = f_X(x) / \textrm{Pr} \left\{ X \leq M \right\}$, la probabilidad es simplemente $f_X(x)\,\textrm{d}x$ en el segundo caso y obtenemos la probabilidad reclamada, hasta el $\mathrm{d}x$término para una observación con precisión infinita. Cuando observaciones independientes$A_i$ y $X_i$ una vez hechas, la probabilidad se obtiene como el producto de las probabilidades marginales que conducen a la expresión en la pregunta.