Optimización bayesiana para ruido no gaussiano

8

Una función de caja negra F:RnorteR, que se evalúa puntualmente sujeto al ruido gaussiano, es decir, F(X)+norte(μ(X),σ(X)2), puede minimizarse utilizando la optimización bayesiana donde se utiliza un proceso gaussiano como modelo de función ruidosa.

¿Cómo se puede utilizar la optimización bayesiana para funciones sujetas a ruido no gaussiano, por ejemplo, distribuciones sesgadas?

¿Hay implementaciones que admitan esta configuración?

Johnb
fuente
Solo un comentario: la gente no suele utilizar el proceso gaussiano (y distribuciones normales para todos los demás problemas) porque cree que todas las cosas se distribuyen normalmente, sino porque facilita los cálculos.
Tim

Respuestas:

1

Existen modelos de procesos gaussianos con probabilidad no gaussiana : la distribución previa de la funciónF sigue siendo un proceso gaussiano pero el término de ruido ya no es gaussiano, es decir, la probabilidad pags(yEl |F)se supone que ya no es gaussiano. Como consecuencia, los resultados analíticos se pierden y la inferencia de dibujo ahora requiere métodos de aproximación como MCMC o aproximación de Laplace.

Para varias distribuciones, esto se implementa y explica como parte del paquete GPML Matlab , disponible y explicado aquí. . La tabla de métodos de inferencia en la sección 3d ("Una descripción más detallada") ofrece una descripción general de las distribuciones implementadas para la probabilidad y qué método de inferencia está disponible para cada una de ellas.

Los únicos artículos con los que puedo vincularlo en este momento (porque los marqué como favoritos en algún momento) están en el t distribución:

  • Shah, Amar, Andrew Wilson y Zoubin Ghahramani. "Los procesos de Student-t como alternativas a los procesos gaussianos". Inteligencia artificial y estadística. 2014.
  • Shah, Amar, Andrew Wilson y Zoubin Ghahramani. "Los procesos de Student-t como alternativas a los procesos gaussianos". Inteligencia artificial y estadística. 2014.
  • Jylänki, Pasi, Jarno Vanhatalo y Aki Vehtari. "Robusta regresión del proceso gaussiano con una probabilidad de Student-t". Journal of Machine Learning Research 12.Nov (2011): 3227-3257.
París
fuente