¿Cómo modelar una moneda sesgada con un sesgo variable en el tiempo?

Los modelos de monedas sesgadas generalmente tienen un parámetro . Una forma de estimar partir de una serie de sorteos es usar una distribución beta anterior y calcular la distribución posterior con probabilidad binomial.$\theta = P(\text{Head} | \theta)$$\theta$

En mi configuración, debido a algún proceso físico extraño, mis propiedades de monedas cambian lentamente y $\theta$ convierte en una función del tiempo $t$ . Mis datos son un conjunto de dibujos ordenados, es decir, $\{H,T,H,H,H,T,...\}$ . Puedo considerar que solo tengo un sorteo por cada $t$ en una cuadrícula de tiempo discreta y regular.

¿Cómo modelarías esto? Estoy pensando en algo así como un filtro de Kalman adaptado al hecho de que la variable oculta es $\theta$ y que mantiene la probabilidad binomial. ¿Qué podría usar para modelar $P(\theta(t+1)|\theta(t))$ para mantener la inferencia manejable?

Edite las siguientes respuestas (¡gracias!) : Me gustaría modelar $\theta(t)$ como una Cadena de Markov de orden 1 como se hace en filtros HMM o Kalman. La única suposición que puedo hacer es que $\theta(t)$ es suave. Podría escribir $P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$ con $\epsilon$ un pequeño ruido gaussiano (idea de filtro de Kalman), pero esto rompería el requisito de que $\theta$ debe permanecer en $[0,1]$ . Siguiendo la idea de @J Dav, podría usar una función probit para mapear la línea real a $[0,1]$ , pero tengo la intuición de que esto daría una solución no analítica. Una distribución beta con media $\theta(t)$ y una variación más amplia podría hacer el truco.

Estoy haciendo esta pregunta ya que tengo la sensación de que este problema es tan simple que debe haber sido estudiado antes.

Dudo que pueda llegar a un modelo con solución analítica, pero la inferencia aún puede hacerse manejable utilizando las herramientas adecuadas, ya que la estructura de dependencia de su modelo es simple. Como investigador de aprendizaje automático, preferiría usar el siguiente modelo ya que la inferencia se puede hacer bastante eficiente usando la técnica de Propagación de expectativas:

Deje ser el resultado del ensayo -ésimo. Definamos el parámetro que varía con el tiempo$X(t)$$t$

t ≥ $\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$ para .$t \geq 0$

Para vincular con , introduzca variables latentes$\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$ ,

y modelo para ser$X(t)$

$X(t) = 1$ si , y caso contrario. En realidad, puede ignorar y marginarlos para decir simplemente , (con cdf de estándar normal), pero la introducción de variables latentes facilita la inferencia. Además, tenga en cuenta que en su parametrización original .$Y(t) \geq 0$$X(t) = 0$$Y(t)$$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

Si está interesado en implementar el algoritmo de inferencia, eche un vistazo a este documento . Utilizan un modelo muy similar para que pueda adaptar fácilmente el algoritmo. Para entender EP, la siguiente página puede resultarle útil. Si está interesado en seguir este enfoque, hágamelo saber; Puedo proporcionar consejos más detallados sobre cómo implementar el algoritmo de inferencia.

Para elaborar en mi comentario, un modelo como p (t) = p exp (-t) es un modelo simple y permite la estimación de p (t) estimando p usando la estimación de máxima verosimilitud. Pero, ¿la probabilidad realmente decae exponencialmente? Este modelo sería claramente incorrecto si observa períodos de tiempo con una alta frecuencia de éxito de lo que observó en épocas anteriores y posteriores. El comportamiento oscilatorio podría modelarse como p (t) = p | sint |. Ambos modelos son muy manejables y se pueden resolver con la máxima probabilidad, pero ofrecen soluciones muy diferentes.$_0$$_0$$_0$

$t$$p$

$p=\Phi(g(t,\theta))$$g(t,\theta)$$\Phi$

$\Phi$$g()$$g()$

Para responder a su pregunta reeditada :

Como dijiste, usar probit implicaría solo soluciones numéricas, pero puedes usar una función logística en su lugar:

$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

$\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

$\epsilon$$t$