Maximización simultánea de dos funciones sin derivados disponibles.

Tengo dos variables ky tcomo funciones de otras dos variables p1y p2. También sé sus valores máximos. No tengo ninguna expresión analítica para esto. Quiero encontrar los valores de ky tcuáles son los más cercanos a sus valores máximos.

¿Hay alguna manera de optimizar el k = f1(p1, p2)y t = f2(p1, p2)?

Puedo intentar verificar el producto k0 * t0o el producto de los cuadrados k0^2 * t0^2o alguna otra relación de los dos.

¿Es esto eficiente y qué camino tomar?

Gracias.

Hay dos problemas aquí:

1. Su problema de optimización tiene dos objetivos en competencia: maximizar y maximizar . Esto se conoce como optimización de objetivos múltiples (o criterios múltiples ), y tales problemas tienen un número infinito de soluciones, cada una basada en una elección específica del peso relativo de los objetivos (es decir, es más importante que esté cerca al valor máximo que para ?). Si ambos tienen la misma importancia para usted, simplemente puede minimizar la función donde y son los valores máximos conocidos de$k=f_1(p_1,p_2)$$t = f_2(p_1,p_2)$f 1 f 2 F ( p 1 , p 2 ) = ( f 1 ( p 1 , p 2 ) - K ) 2 + ( f 2 ( p 1 , p 2 ) -$f_1$$f_2$

   $$F(p_1,p_2) = (f_1(p_1,p_2)-K)^2 + (f_2(p_1,p_2)-T)^2,$$ $K$$T$$k$y , respectivamente. De lo contrario, agregaría un peso correspondiente antes de cada término. (Si no se conocieran los valores máximos, en su lugar, minimizaría ).$t$$-f_1^2-f_2^2$

2. Para encontrar un minimizador de , solo puede usar valores de función de en un punto dado . Esto se conoce como optimización sin derivados ; véase, por ejemplo, Introducción a la optimización sin derivados de Conn, Scheinberg y Vicente o el capítulo 9 en Optimización numérica . La mayoría de estos usan derivados aproximados basados ​​en diferencias finitas o derivados de funciones de interpolación. Dado que es una función de solo dos variables, construir aproximaciones de diferencias finitas del hessiano completo no es demasiado costoso (o inestable). La idea es la siguiente: dado un punto , construyes un modelo cuadrático local $F$$F$$(p_1,p_2)$$F$$p^k=(p_1^k,p_2^k)$

   $$m_k(p^k + d) = F(p^k) + (g^k)^T d + \frac{1}{2} d^TH^kd,$$ calcula su minimizador y establece . Aquí, para un pequeño (pero no demasiado pequeño, ver más abajo) , con y , es el gradiente aproximado y es una aproximación de Taylor de la arpillera. Esto requiere evaluar$d^k$$p^{k+1} = p^k+d^k$$\epsilon>0$ $$g^k = (g_1,g_2)^T,\quad g_i = \frac{F(p^k+\epsilon e_i)-F(p^k-\epsilon e_i)}{2\epsilon}$$ $e_1 = (1,0)^T$$e_2 = (0,1)^T$ $$H^k = \begin{pmatrix}h_{11}&h_{12}\\h_{21}&h_{22}\end{pmatrix}, \quad h_{ij} = \frac{F(p^k+\epsilon e_i + \epsilon e_j) - F(p^k + \epsilon e_i) - F(p^k+\epsilon e_j) + F(p^k)}{\epsilon^2}$$ $F$ en 5 puntos adicionales en cada iteración.

   Una cuestión importante en cualquier aproximación de diferencia finita es la elección de : si es demasiado grande, tiene una aproximación pobre de la derivada; Si es demasiado pequeño, corre el riesgo de cancelación y, por lo tanto, de inestabilidad numérica. Una buena regla general es tomar , donde es el redondeo de la unidad (aproximadamente para doble precisión).$\epsilon$$\epsilon = {u}^{1/3}$$u$$10^{-16}$

   En la práctica, desearía combinar esto con una estrategia de región de confianza, donde requeriría dentro de una bola cuyo radio se adapte durante la iteración (consulte los libros mencionados anteriormente).$d^k$

   Puede encontrar una comparación de algoritmos e implementaciones para la optimización sin derivados en esta página web , que acompaña al documento "Optimización sin derivados: una revisión de algoritmos y comparación de implementaciones de software" por Luis Miguel Rios y Nikolaos V. Sahinidis

Con la optimización multiobjetivo, hay muchas formas de combinar / comparar las variables objetivas en su análisis. El problema es que no hay una forma "correcta" de hacerlo. Depende completamente de cuál es el problema y qué representan las variables. Es probable que su mejor apuesta sea maximizar algo como donde es un valor positivo arbitrario. Una vez que tenga una respuesta, vea si le gustan las y resultantes , y modifique según sea necesario hasta que encuentre una solución con la que esté satisfecho.$k+a*t$$a$$k$$t$$a$

En cuanto a la optimización real, no tener una expresión analítica para las funciones no es el fin del mundo, pero no tener ninguna información lo hará difícil. Si puede asumir algún nivel de suavidad / continuidad, incluso si es solo por partes, puede usar un algoritmo de búsqueda de raíz en una aproximación derivada para encontrar máximos locales (hay muchos métodos más sofisticados que esto, pero no estoy familiarizado con ellos. Otras personas aquí probablemente podrían señalarle en la dirección correcta). Si puede establecer la convexidad, puede extenderla a la optimización global.

La verdadera optimización de objetivos múltiples de la caja negra no es exactamente un problema fácil, pero algunas suposiciones y un proceso iterativo con una reducción objetiva deberían obtener una respuesta aceptable (suponiendo que exista una).