Máquina de Boltzmann restringida: ¿cómo se usa en el aprendizaje automático?

Fondo:

Sí, la máquina de Boltzmann restringida (RBM) PUEDE usarse para iniciar los pesos de una red neuronal. También puede ser utilizado de una manera "capa por capa" para construir una red profunda creencia (es decir, para entrenar a un capa -ésima en la parte superior de ( n - 1 ) capa de -ésimo, y luego a entrenar al capa en la parte superior de la capa , enjuague y repita ...)$n$$(n-1)$$n+1$$n$ .

Con respecto a cómo usar RBM, se pueden encontrar detalles en el hilo de Good tutorial for Restricted Boltzmann Machines (RBM) donde se pueden encontrar algunos documentos y tutoriales.

Mi pregunta sería:

• ¿Se utiliza realmente la RBM en proyectos industriales o académicos?
• En caso afirmativo, ¿cómo y qué proyectos se está utilizando?
• ¿Alguna biblioteca popular (como tensorflow, Caffe, Theono, etc.) proporciona un módulo RBM?

Gracias por compartir. Deseo saber si RBM es realmente útil en la práctica.

RBM fue una de las primeras formas prácticas de entrenar / aprender una red profunda, con más de una o dos capas. Y la red de creencias profundas fue propuesta por Geoffrey Hinton, quien es considerado uno de los 'padres del aprendizaje profundo, supongo, aunque Yann LeCun es el otro' padre 'principal del aprendizaje profundo, creo, o así es como lo veo. Por supuesto, todo ya fue inventado hace años por Jurgen Schmidhuber :-)

Entonces, los RBM son famosos porque 1. una de las primeras formas de hacer aprendizaje profundo 2. Geoffrey Hinton.

Sin embargo, en la práctica, seguramente se usan y se pueden usar en la investigación académica, ya que hay muchas personas que intentan encontrar un nicho único en el que puedan ser expertos, y ser el experto mundial en algún nicho de RBM es una buena opción. nicho como cualquier otro. Sin embargo, en la práctica, en la industria, aunque no afirmaré que nunca se usan, pero surgen extremadamente raramente. Simplemente hay muchas técnicas muy estándar, que entrenan realmente rápido y fácilmente, como la regresión logística y las redes neuronales convolucionales de avance. Para los no supervisados, cosas como las GAN son realmente populares en este momento.

Es posible utilizar RBM para tratar los problemas típicos que surgen en la recopilación de datos (que podrían usarse, por ejemplo, para entrenar un modelo de aprendizaje automático). Dichos problemas incluyen conjuntos de datos desequilibrados (en un problema de clasificación) o conjuntos de datos con valores faltantes (los valores de algunas características son desconocidos). En el primer caso, es posible entrenar un RBM con datos de la clase minoritaria y usarlo para generar ejemplos para esta clase, mientras que en el segundo caso es posible entrenar un RBM por separado para cada clase y descubrir valores de características desconocidos.

Otra aplicación típica de RBM es el filtrado colaborativo ( http://dl.acm.org/citation.cfm?id=1273596 ).

En cuanto a las bibliotecas populares, creo que deeplearning4j es un buen ejemplo ( http://deeplearning4j.org ).