Significado de los métodos de búsqueda y los métodos de optimización.

Me preguntaba qué diferencias y relaciones hay entre "métodos de búsqueda" y "métodos de optimización".

¿Especialmente al resolver un problema de optimización? Insisto en el contexto de la resolución de problemas de optimización, porque supongo que los métodos de búsqueda no son solo para resolver problemas de optimización, sino también problemas de no optimización.

Mi confusión proviene de los siguientes hechos:

1. Existen algunos métodos de optimización, llamados "búsqueda xxx", como la búsqueda local , la búsqueda estocástica , .... ¿Qué significa "buscar" en realidad? Me pregunto si hay métodos de optimización que no son "búsqueda".
2. También en este libro Introducción a la búsqueda y optimización estocástica de Spall , no entiendo la diferencia entre "Buscar" y "Optimización" en su título, así como en su contenido. ¿Por qué necesita distinguir entre "Buscar" y "Optimización", si significan lo mismo? ¿O "Optimización" significa tareas / problemas de optimización estocásticos en lugar de métodos de optimización, en lugar de "búsqueda" significa los métodos para resolver las tareas / problemas de optimización?
3. Además, ningún almuerzo gratis en búsqueda y optimización distingue nuevamente la búsqueda y la optimización.

¡Gracias y saludos!

search = intenta encontrar un punto factible que satisfaga todas las restricciones (y para la optimización, un punto mejor que el encontrado hasta ahora), generalmente usando solo valores de función.

búsqueda local: mejora de un punto factible (o una distancia a la medida de factibilidad) mediante la búsqueda entre puntos vecinos.

búsqueda estocástica: búsqueda usando un criterio no determinista para elegir puntos de prueba.

Esto es independiente de si se da un criterio de optimización. En particular, en "No hay almuerzo gratis en búsqueda y optimización", la búsqueda se refiere a la búsqueda de viabilidad, mientras que la optimización se refiere a la búsqueda de la optimización.

En un sentido general, para problemas de optimización, la búsqueda y la optimización son equivalentes. Sin embargo, tienen connotaciones que marcan la diferencia en el uso del término.

método de optimización = un método para resolver un problema de optimización, a menudo (pero no necesariamente) utilizando información de gradiente (o subgradiente o incluso Hesse).

Ser capaz de usar gradientes aumenta drásticamente la eficiencia de los métodos de optimización. Uno usa en este contexto (es decir, con gradientes conocidos) el término buscar solo en la combinación '' búsqueda de línea '' que significa buscar un mejor punto a lo largo de una dirección elegida.

$x^\ast$$g(x)$$g(x^\ast)=0$$x^\ast$$f(x) \rightarrow \textrm{min!}$$f$$g(x)=\nabla f(x)$