¿Cuándo es el aprendizaje profundo excesivo?

Por ejemplo, para clasificar los correos electrónicos como spam, ¿vale la pena, desde una perspectiva de tiempo / precisión, aplicar el aprendizaje profundo (si es posible) en lugar de otro algoritmo de aprendizaje automático? ¿El aprendizaje profundo hará innecesarios otros algoritmos de aprendizaje automático como los ingenuos Bayes ?

Se trata de retorno de la inversión . Si DL "vale la pena", no es exagerado.

Si el costo de usar DL (ciclos de computadora, almacenamiento, tiempo de entrenamiento) es aceptable, y los datos disponibles para entrenar son abundantes, y si la ventaja marginal sobre algoritmos alternativos es valiosa, entonces DL es una victoria.

Pero, como sugiere, si su problema es susceptible de métodos alternativos, especialmente si ofrece una señal que coincide bien con los métodos clásicos como la regresión o la ingenua Bayes, o si su problema requiere una explicación de por qué el límite de decisión está donde está (p. Ej. árboles de decisión), o si sus datos carecen de los gradientes continuos que necesita DL (especialmente, CNN), o si sus datos varían con el tiempo, lo que requeriría una reentrenamiento periódico (especialmente, a intervalos impredecibles), entonces DL probablemente sea una falta de coincidencia para usted.

El aprendizaje profundo es poderosa, pero es no un método superior de bayesiano. Funcionan bien en lo que están diseñados para hacer:

Utiliza el aprendizaje profundo:

• El costo de la computación es mucho más barato que el costo del muestreo (por ejemplo: procesamiento del lenguaje natural)
• Si tiene un problema altamente no lineal
• Si desea simplificar la ingeniería de características
• Si no tiene una distribución previa (p. Ej .: establecer los pesos en gaussiano aleatorio). O lo haces pero no te importa la complejidad.
• Si desea precisión para la velocidad (el aprendizaje profundo es lento)

Use ingenuo bayesiano:

• Si tiene una distribución previa que desea usar
• Si desea actualizar su modelo de forma rápida y sencilla (en particular modelos de conjuro)
• Si tiene su propia función de probabilidad y desea "controlar" cómo funciona exactamente el modelo
• Si desea modelar modelos jerárquicos
• Si no quieres modificar los parámetros
• Si quieres un modelo más rápido, tanto en entrenamiento como en ejecución
• Si quieres hacer la suposición de independencia
• Si desea evitar el sobreajuste (ese es un modelo muy simple)