¿Recursos para aprender sobre técnicas de objetivos múltiples?

Estoy buscando recursos (libros, apuntes de clase, etc.) sobre técnicas que pueden manejar datos que tienen múltiples objetivos (Ej: tres variables dependientes: 2 discretas y 1 continua).

¿Alguien tiene algún recurso / conocimiento sobre esto? Sé que es posible usar redes neuronales para esto.

El bosque aleatorio lo maneja bastante bien, vea ¿Sería posible / práctico un bosque aleatorio con múltiples salidas? o la documentación de scikit learn . Supongo que GBM o cualquier método basado en árbol se pueden adaptar de manera similar.

En términos más generales, cuando ejecuta un algoritmo de aprendizaje que minimiza una puntuación, generalmente trabaja en minimizar que es unidimensional. Pero puede especificar cualquier función de destino. Si estaba trabajando en la predicción de posición (bidimensional), sería una buena métrica.$\sum_i(p_i-y_i)^2$$\sum_i(\hat{y}_i-y_i)^2+(\hat{x}_i-x_i)^2$

Si tiene una salida de tipo mixto (clasificación y regresión), la especificación de la función objetivo probablemente requerirá que especifique una función objetivo que otorgue más peso a algunos objetivos que a otros: ¿qué escala aplica a las respuestas continuas? ¿Qué pérdida aplicas a las clasificaciones erróneas?

En cuanto a la lectura académica adicional,

Wikipedia de Aprendizaje Estructurado SVM

Aprovechando simultáneamente las estructuras de salida y tareas para la regresión de salida múltiple

El método de selección de puntos de referencia para la predicción de salida múltiple (se ocupa de variables dependientes de alta dimensión)

Este documento hace un buen trabajo al describir los métodos actuales, los kits de herramientas disponibles, así como los conjuntos de datos para probar.

Trabajo en un problema comercial que requiere una regresión de múltiples objetivos, y descubrí que el kit de herramientas Clus tiene una buena combinación de alto rendimiento y robustez.

• La documentación es excelente
• El kit de herramientas tiene varios métodos para la clasificación y regresión de objetivos múltiples
• También es compatible con la inducción basada en reglas y la agrupación.
• Los modelos de conjunto (Bagging, RandomForest) que utilicé se pueden leer e interpretar fácilmente.

Algunos de los métodos más nuevos (posteriores a 2012) se han implementado como una extensión del kit de herramientas Mulan, aquí está el enlace de Github . Aunque estos métodos, como las combinaciones de objetivos lineales aleatorios, informan un mejor rendimiento que los modelos de conjunto, descubrí que el kit de herramientas no es tan maduro como el kit de herramientas Clus y, por lo tanto, no los usé.

Una visión bayesiana sobre este tipo de problema: modelos bayesianos no paramétricos para datos indexados espacialmente de tipo mixto . El elemento de respuesta múltiple está siendo manejado por varios vectores aleatorios normalmente distribuidos y sus funciones de enlace. Para que la respuesta completa sea una pila de un vector de normales, un vector de conteos y un vector de bernoullis.