Practical Optimization: Algorithms and Engineering Applications – Andreas Antoniou, Wu-Sheng Lu – 1st Edition

Los rápidos avances en la eficiencia de las computadoras digitales y la evolución de software confiable para el cálculo numérico durante las últimas tres décadas han llevado a un crecimiento asombroso en la teoría, métodos y algoritmos de optimización numérica. Este cuerpo de conocimiento, a su vez, ha motivado aplicaciones generalizadas de métodos de optimización en muchas disciplinas, por ejemplo, ingeniería, negocios y ciencia, y ha llevado a soluciones de problemas que se consideraban intratables no hace mucho tiempo. Aunque existen excelentes libros que tratan el tema de la optimización con gran rigor y precisión matemática, parece existir la necesidad de un libro que proporcione un tratamiento práctico del tema dirigido a una audiencia más amplia que va desde estudiantes universitarios hasta científicos y profesionales de la industria.

Este libro ha sido escrito para abordar esta necesidad. Trata la optimización sin restricciones y restringida de manera unificada y pone especial atención en los aspectos algorítmicos de la optimización para permitir a los lectores aplicar los diversos algoritmos y métodos a problemas específicos de interés. Para facilitar este proceso, el libro proporciona muchos ejemplos resueltos que ilustran los principios involucrados e incluye, además, dos capítulos que tratan exclusivamente con aplicaciones de métodos de optimización sin restricciones y con restricciones a problemas en las áreas de reconocimiento de patrones, sistemas de control, robótica, sistemas de comunicación, y el diseño de filtros digitales.

Para cada aplicación, se proporciona suficiente información de fondo para promover la comprensión de los algoritmos de optimización utilizados para obtener las soluciones deseadas. El Capítulo 1 ofrece una breve introducción a la optimización y la estructura general de los algoritmos de optimización. Los capítulos 2 a 9 se ocupan de los métodos de optimización sin restricciones. Los principios básicos de interés se presentan en el Capítulo 2. Estos incluyen las condiciones necesarias de primer y segundo orden para que un punto sea un minimizador local, las condiciones suficientes de segundo orden y la optimización de funciones convexas. El Capítulo 3 trata de las propiedades generales de los algoritmos, como los conceptos de función de descenso, convergencia global y tasa de convergencia. El Capítulo 4 presenta varios métodos para la optimización unidimensional, que comúnmente se denominan búsquedas lineales. El capítulo también se ocupa de los métodos de búsqueda de línea inexactos que se ha descubierto que aumentan la eficiencia en muchos algoritmos de optimización.

El Capítulo 5 presenta varios métodos de gradiente básicos que incluyen los métodos de descenso más pronunciado, Newton y GaussNewton. El capítulo 6 presenta una clase de métodos basados en el concepto de direcciones conjugadas, como los métodos de gradiente conjugado, Fletcher-Reeves, Powell y Partan. En el Capítulo 7 se presenta una clase importante de métodos de optimización sin restricciones conocidos como métodos cuasi-Newton. Se investigan métodos representativos de esta clase, como los métodos de Davidon-Fletcher-Powell y BroydonFletcher-Goldfarb-Shanno y sus propiedades.

El capítulo también incluye un algoritmo de cuasi-Newton práctico, eficiente y confiable que elimina algunos problemas asociados con el método básico de cuasi-Newton. El Capítulo 8 presenta métodos minimax que se utilizan en muchas aplicaciones, incluido el diseño de filtros digitales. El Capítulo 9 presenta tres casos de estudio en los que varios de los métodos de optimización sin restricciones descritos en los Capítulos 4 a 8 se aplican a la coincidencia de patrones de puntos, la cinemática inversa para manipuladores robóticos y el diseño de filtros digitales. Los capítulos 10 a 16 se ocupan de los métodos de optimización con restricciones. El Capítulo 10 presenta los fundamentos de la optimización restringida.

El concepto de multiplicadores de Lagrange, las condiciones necesarias de primer orden conocidas como condiciones de Karush-Kuhn-Tucker y el principio de dualidad de la programación convexa se abordan en detalle y se ilustran con muchos ejemplos. Los capítulos 11 y 12 se ocupan de problemas de programación lineal $PL$. Las propiedades generales de PL y el método símplex para problemas de PL estándar se abordan en el Capítulo 11. En el Capítulo 12 se presentan varios métodos de punto interior, incluidos el escalado afín primario, la barrera de Newton primaria y los métodos de seguimiento de trayectoria dual primario. 13 trata de la programación cuadrática y convexa general. Se investigan los llamados métodos de conjuntos activos y varios métodos de puntos interiores para la programación cuadrática convexa. El capítulo también incluye los llamados algoritmos de plano de corte y elipsoide para problemas generales de programación convexa. El capítulo 14 presenta dos clases especiales de programación convexa conocidas como programación semidefinida y de cono de segundo orden, que han encontrado aplicaciones interesantes en una variedad de disciplinas.