¿Cómo funciona el método de transformación inversa?

¿Cómo funciona el método de inversión?
Digamos que tengo una muestra aleatoria con densidad sobre y, por lo tanto, con cdf en . Luego, por el método de inversión obtengo la distribución de como . $X_1,X_2,...,X_n$$f(x;\theta)={1\over \theta} x^{(1-\theta)\over \theta}$
$0<x<1$$F_X(x)=x^{1/\theta}$$(0,1)$$X$$F_X^{-1}(u)=u^\theta$

Entonces, ¿ tiene la distribución de ? ¿Es así como funciona el método de inversión?$u^\theta$$X$

u<-runif(n)
x<-u^(theta)

El método es muy simple, así que lo describiré en palabras simples. Primero, tome la función de distribución acumulativa de alguna distribución de la que desea muestrear. La función toma como entrada algún valor x y le dice cuál es la probabilidad de obtener X ≤ x . Entonces$F_X$$x$$X \leq x$

inverso de dicha función función, tomaría como entrada y retorno . Tenga en cuenta que 's se distribuyen de manera uniforme - esto podría ser utilizado para el muestreo de cualquier si sabe . El método se llama muestreo de transformación inversa . La idea es muy simple: es fácil de valores de muestra uniformemente de , así que si quieres a la muestra de algunos , sólo toma los valores y pasar través para obtener 's p x p F X F - 1 X U ( 0 , 1 ) F X u ∼ U ( 0 , 1 ) u F - 1 X$F_X^{-1}$$p$$x$$p$$F_X$$F_X^{-1}$$U(0, 1)$$F_X$$u \sim U(0, 1)$$u$$F_X^{-1}$$x$

o en R (para distribución normal)

U <- runif(1e6)
X <- qnorm(U)

Para visualizarlo, mire el CDF a continuación, generalmente, pensamos en distribuciones en términos de mirar el eje para las probabilidades de valores del eje . Con este método de muestreo hacemos lo contrario y comenzamos con "probabilidades" y las usamos para elegir los valores que están relacionados con ellas. Con distribuciones discretas, trata a como una línea de a y asigna valores en función de dónde se encuentra algún punto en esta línea (por ejemplo, si o si para el muestreo de ).x U 0 1 u 0 0 ≤ u < 0.5 1 0.5 ≤ u ≤ 1 B e r n o u l l i ( 0.5 $y$$x$$U$$0$$1$$u$$0$$0 \leq u < 0.5$$1$$0.5 \leq u \leq 1$$\mathrm{Bernoulli}(0.5)$

Desafortunadamente, esto no siempre es posible ya que no todas las funciones tienen su inverso, por ejemplo, no puede usar este método con distribuciones bivariadas. También no tiene que ser el método más eficaz en todas las situaciones, en muchos casos existen mejores algoritmos.

También pregunta cuál es la distribución de . Como es un inverso de , entonces y , entonces sí, valores obtenidos usando tal método tiene la misma distribución que . Puede verificar esto mediante una simple simulaciónF - 1$F_X^{-1}(u)$$F_X^{-1}$F X ( F - 1 X ( u ) ) = u F - 1 X ( F X ( x ) ) = x $F_X$$F_X(F_X^{-1}(u)) = u$$F_X^{-1}(F_X(x)) = x$$X$

U <- runif(1e6)
all.equal(pnorm(qnorm(U)), U)

Sí, tiene la distribución de .$U^θ$$X$

Dos puntos adicionales en la intuición detrás del método de transformación inversa podrían ser útiles

(1) Para comprender qué significa realmente , consulte un gráfico en la respuesta de Tim para ayudarme a comprender la función cuantil (CDF inverso)$F^{-1}$

(2) [Por favor, simplemente ignore lo siguiente, si trae más confusión en lugar de claridad]

Sea una variable aleatoria (rv) con cdf continuo y estrictamente creciente . Entonces Nota sobre la notación: es un rv Por lo tanto, la función de rv , es un rv en sí mismo. $X$$F$

Por ejemplo, si voltea la pregunta, para tener acceso a y desea generar un uniforme estándar, entonces . Dejar que llamar a esta variable aleatoria . Por lo tanto Volviendo a su pregunta, tiene la tarea contrario: generar de . Entonces, de hecho X 1 / θ ∼ Unif ( 0 , 1 ) U U = X 1 / θ X U X = U $X$$X^{1/\theta} \sim \text{Unif}(0,1)$$U$

PD. Los nombres alternativos para el método son la transformación integral de probabilidad, el muestreo de transformación inversa, la transformación de cuantiles y, en algunas fuentes, "el teorema fundamental de la simulación".