Algoritmos Genéticos con Python: Un enfoque práctico para resolver problemas de ingeniería

IParte 1: Introducción a los algoritmos genéticos

1Introducción

1.1 Introducción a los algoritmos genéticos

1.2 Primeros pasos mediante un problema sencillo

1.3 Definición del problema y generación de la población inicial

1.4 Función objetivo y operadores genéticos

1.5 Operadores genéticos

1.6 Últimos pasos: Algoritmo genético como caja negra

1.7 ¿Cómo conseguir resultados consistentes?

1.8 Convergencia del algoritmo

1.9 Exploración versus explotación en algoritmos genéticos

1.10 Código completo y lecciones aprendidas

1.11 Para seguir aprendiendo

2El problema del viajero

2.1 Introducción al problema del viajero

2.2 Definición del problema y generación de la población inicial

2.3 Función objetivo y operadores genéticos

2.4 Selección del algoritmo genético

2.5 Últimos pasos

2.6 Comprobar la convergencia del algoritmo en problemas complejos

2.7 Ajuste de los hiperparámetros: Probabilidades de cruce y mutación

2.8 Acelerando la convergencia del algoritmo: El tamaño del torneo

2.9 Acelerando la convergencia del algoritmo: Aplicar elitismo

2.10 Complejidad del problema: P vs NP

2.11 Código completo y lecciones aprendidas

2.12 Para seguir aprendiendo

3Algoritmos genéticos y benchmarking

3.1 Introducción a las funciones de benchmark

3.2 Aprendiendo a usar las funciones de benchmark : Formulación del problema

3.3 Definición del problema y generación de la población inicial

3.4 Función objetivo y operadores genéticos

3.5 Código completo

3.6 Evaluación de algunas funciones de benchmark

3.7 Ajuste de los hiperparámetros de los operadores genéticos

3.8 Lecciones aprendidas

3.9 Para seguir aprendiendo

4Algoritmos genéticos con múltiples objetivos

4.1 Introducción a los problemas con múltiples objetivos

4.2 Introducción a la Pareto dominancia

4.3 Selección del algoritmo genético

4.4 El problema de la suma de subconjuntos con múltiples objetivos

4.5 Funciones de benchmark con múltiples objetivos

4.6 Lecciones aprendidas

4.7 Para seguir aprendiendo

1.1 Introducción a los algoritmos genéticos

Los algoritmos genéticos son técnicas de optimización metaheurísticas, también llamadas estocásticas o probabilísticas (Holland et al., 1992) (Goldberg, 2006). Aunque fueron propuestos en la década de los 60s por Jonh Holland (Holland, 1962) (Holland, 1965) (Holland et al., 1992), no ha sido posible su aplicación en problemas de ingeniería reales hasta hace un par de décadas, debido principalmente a que son computacionalmente intensivos y que, por lo tanto, necesitan una capacidad computacional elevada para llevar a cabo multitud de operaciones en poco tiempo. La idea principal de un algoritmo genético es realizar una búsqueda guiada a partir de un conjunto inicial de posibles soluciones, denominado población inicial, el cual va evolucionando a mejor en cada iteración del algoritmo (Lones, 2011). Dichas iteraciones se conocen como generaciones y, normalmente, la última generación incluye la mejor o las mejores soluciones a nuestro problema de optimización. Cada posible solución a nuestro problema se conoce como individuo, y cada individuo codifica las variables independientes del problema de optimización. Estas variables representan los genes de la cadena cromosómica que representa a un individuo. Los algoritmos genéticos están basados en la Teoría Evolucionista de Charles Darwin (Darwin, 1859). Dicha teoría, explicado de forma muy simple, indica que los individuos que mejor se adaptan al medio son aquellos que tienen más probabilidades de dejar descendencia, y cuyos genes pasarán a las siguientes generaciones. La teoría de Darwin también describe que aquellas modificaciones genéticas que hacen que los individuos se adapten mejor al medio, tienen mayor probabilidad de perdurar en el tiempo. Estas ideas son las que utilizan los algoritmos genéticos para realizar una búsqueda estocástica guiada de forma eficiente. En los problemas de optimización numéricos, los individuos son potenciales soluciones al problema y la adaptación al medio se mide mediante la función que queremos optimizar, también llamada función objetivo, fitness function o función de evaluación1. Un individuo se adaptará bien al medio si produce un desempeño o fitness2 alto, en caso de que se quiera maximizar la función objetivo, o si produce un desempeño bajo en caso de que estemos ante un problema de minimización. Ambos problemas son siempre duales3, por lo que pasar de un problema de maximización a un problema de minimización es tan sencillo como multiplicar por –1 el resultado de la función objetivo.

En cada iteración del algoritmo, nuevos individuos (descendientes o, en inglés, offsprings) son creados mediante operaciones genéticas, dando lugar a nuevas poblaciones. Dichas operaciones genéticas, que se pueden resumir en tres bloques -selección, cruce y mutación- son el motor de búsqueda de un algoritmo genético. Cada vez que se crea un nuevo conjunto de individuos, se crea una nueva generación, y dicho proceso termina con la generación final, la cual debe incluir los mejores individuos encontrados a lo largo de las generaciones. Así, la Figura 1.1 representa el funcionamiento general de un algoritmo genético. Como se puede observar, se parte de una población inicial aleatoria y, a través de las operaciones genéticas, se van obteniendo nuevas generaciones hasta que se alcanza la población final. En este primer capítulo del libro, vamos a entrar en detalle en cada uno de los pasos y mecanismos que conforman un algoritmo genético; para ello, utilizaremos la librería de Python deap4. Esta librería nos facilita el diseño e implementación de distintos algoritmos genéticos, ya que incluye muchas funciones de librería que desarrollan los principales componentes de un algoritmo genético.

Figura 1.1. Esquema del funcionamiento de un algoritmo genético.

¿Por qué recurrimos a la optimización metaheurística?

A lo largo de nuestra vida académica y profesional como ingenieros, con frecuencia nos encontramos con problemas de optimización de gran complejidad. A veces, esta radica en la gran cantidad de variables que hay que manejar; otras, en la complejidad de las ecuaciones que las gobiernan. A veces, incluso nos planteamos si la solución a nuestro problema existe. Pero, en general, solemos decir que estos problemas son difíciles de resolver. Pero ¿qué significa que un problema sea difícil de resolver? Aunque pueda parecer una pregunta trivial, es la primera que debemos formular cuando nos planteamos el uso de optimización metaheurística. Por supuesto, no es una pregunta fácil de responder.

Los métodos de optimización se pueden clasificar en dos grandes grupos bien diferenciados: métodos exactos y métodos metaheurísticos o aproximados.

La diferencia fundamental entre ellos está clara: los métodos exactos garantizan la obtención de la solución óptima, mientras que los metaheurísticos no. Llegados a este punto, uno podría preguntarse qué sentido tiene inclinarse por la segunda opción pudiendo utilizar un método exacto. Pues bien, la realidad es que no siempre podemos encontrar un método exacto que permita resolver nuestro problema. Es más: si lo hay, es muy posible que su aplicación no sea viable para un problema de cierta complejidad; por ejemplo, por el tiempo de resolución (una búsqueda extensiva para un problema combinatorio de algunos cientos de variables puede tardar meses o años5), o por las simplificaciones que pueden requerir para su aplicación (por ejemplo puede ser necesario linealizar las restricciones del problema). Además, las estrategias de resolución analíticas, como los métodos basados en gradiente, pueden converger a óptimos locales y no alcanzar el óptimo global del problema.

Así, para decidir qué estrategia utilizar para abordar un problema difícil de resolver deberíamos plantearnos, al menos, las siguientes cuestiones:

■¿Cómo de grande es mi problema?

Evaluar el tamaño del espacio de búsqueda (esto es, el número de soluciones posibles) es un buen indicador de la complejidad del problema. Si conocemos el tiempo necesario para evaluar una solución, podemos hacer una estimación del tiempo que sería necesario para realizar una búsqueda extensiva.

■¿Necesito resolverlo rápido?

Está claro que es preferible disponer de la solución lo antes posible, pero debemos pensar si realmente necesitamos que nuestro problema se resuelva en cuestión de segundos o si, por el contrario, varias horas (o días) son un plazo aceptable.

■¿Hay muchas restricciones? ¿Cómo son?

Un elevado número de restricciones, y, -sobretodo, una gran cantidad de no linealidades en las mismaspuede constituir un obstáculo insalvable para abordar analíticamente nuestro problema de optimización. Resolver de forma analítica una versión suficientemente simplificada (por ejemplo, relajando ciertas restricciones) de nuestro problema puede ser una buena idea, y nos puede ayudar en el desarrollo de estrategias metaheurísticas para el problema completo.

■¿Qué precisión necesito en los resultados?

Cuanto más precisa sea nuestra solución mejor, por supuesto. Pero ¿cuánto es suficiente? ¿Considerarías adecuada una solución un 1% peor que el óptimo global? ¿Y un 5%? Es posible que con un 10% tu solución sea más que útil para cumplir su propósito, y te permitiría ahorrar una gran parte de tiempo o de recursos.

Limitaciones de los métodos tradicionales basados en gradiente

Tradicionalmente, en los cursos de cálculo, tanto en enseñanza secundaria como en niveles superiores, los métodos de optimización estudiados son los métodos basados en gradiente. De forma genérica, para una función f (x) el procedimiento consiste en:

1. Calculamos las derivadas de la función f ' ( x ).

2. Obtenemos los puntos para los que el gradiente se hace cero f ' ( x i ) = 0.

3. Calculamos la segunda deriva f '' ( x ) y evaluamos los puntos anteriores para saber si es un máximo f '' ( x i < 0) o un mínimo f '' ( x i > 0).

Cuando tenemos problemas con varias variables, debemos trabajar con derivadas parciales y obtener las matrices Hessianas. Como podemos observar, los métodos basados en gradientes se basan en el cálculo de las derivadas de la función (o derivadas parciales). Sin embargo, existen muchos casos en los que el cálculo de las derivadas es muy complejo o incluso imposible. Imaginemos que queremos optimizar el funcionamiento una planta industrial de la que no tenemos el modelo, pero sí tenemos un software de simulación de la planta. En esta situación, no podemos aplicar los métodos basados en gradiente, pero sí podremos aplicar los métodos metaheurísticos, como veremos más adelante. Otro problema de los métodos basados en gradiente es que se pueden quedar atrapados en óptimos locales, ya que pueden existir varios puntos de la función en los que el gradiente se haga cero. Por último, también es importante indicar que en los métodos numéricos basados en gradiente, se debe indicar un punto inicial. Por lo tanto, el funcionamiento del algoritmo dependerá de la selección de dicho punto, y pueden aparecer problemas de convergencia en algunos casos.

A continuación, veremos que los algoritmos metaheurísticos -y en concreto los algoritmos genéticos- nos permiten obtener soluciones realmente buenas a problemas en los que los métodos tradicionales basados en gradiente pueden presentar problemas.

1.2 Primeros pasos mediante un problema sencillo

Como la mejor forma de aprender a programar es simplemente programando, vamos a resolver un problema sencillo paso a paso, con el fin de poder describir los distintos componentes de un algoritmo genético, así como su implementación en Python.

Ejercicio 1.1 Se desea encontrar el máximo de la función

en el dominio {x, y} ∈ [–100, 100].

■

En este simple ejemplo, las variables independientes son x e y, y la función objetivo o función de fitness es f (x,y). Un individuo, pues, debe codificar dichas variables independientes en una cadena cromosómica (información genética del individuo) en la que cada variable independiente corresponde a un gen. Así, en nuestro problema ejemplo, la cadena cromosómica estaría formada por dos genes que al confinarse en forma de lista, quedarían como [xi, yi], con i = 1,...,n (siendo n el número de individuos que componen la población). La Figura 1.2 muestra gráficamente la representación de un individuo y de una población de n individuos.

Figura 1.2. Representación de un individuo y de una población.

En principio, vamos a considerar que la población del algoritmo no cambia de tamaño a lo largo de las generaciones; por lo tanto, n será constante.

Es decir, queremos tener genes de muchos tipos. En caso contrario, si los individuos de la población inicial se parecieran mucho, estaríamos limitando el proceso de búsqueda del algoritmo genético. Por lo tanto, a la hora de abordar la resolución de un problema mediante algoritmos genéticos, uno de los primeros pasos que tenemos que dar es buscar un mecanismo para generar soluciones aleatorias a nuestro problema que difieran lo suficiente las unas de las otras. Imaginemos que la población inicial está compuesta por diez individuos (n = 10); en consecuencia, se deberán generar diez soluciones aleatorias. En la Tabla 1.1 se muestran las soluciones iniciales generadas, siendo esta solo una posible muestra de diez soluciones aleatorias.

Tabla 1.1. Población inicial.

Generar valores aleatorios en Python es muy sencillo y existen dos módulos que nos pueden ayudar mucho en esta tarea: i) el módulo nativo random6 y ii) el submódulo de numpy numpy.random7. Por citar las diferencias más importantes entre ambos: el módulo random es nativo, por lo que viene integrado con el intérprete de Python y genera números pseudoaleatorios. Los números totalmente aleatorios no existen en programación: hablaremos más adelante sobre este detalle. Por otro lado, el numpy.random es un submódulo que nos permite crear vectores pseudoaleatorios de distintos tamaños y dimensiones. En definitiva, un módulo me permite generar números aleatorios y el otro vectores aleatorios.

Veamos dos formas de obtener poblaciones parecidas a las mostradas en la Tabla 1.1. En el siguiente script se utiliza el módulo random. Con el fin de obtener siempre los mismos números aleatorios, es posible fijar una semilla mediante el método seed:

Un generador de números aleatorios, no es más que una función que nos devuelve un número pseudoaleatorio dependiendo de la semilla. Si la semilla es siempre distinta, la función nos devolverá un número distinto. En cambio, si utilizamos la misma semilla, dicha función siempre nos devolverá el mismo número. En el ejemplo mostrado, se utiliza el método uniform8 para generar números entre –100 y 100 (estos dos valores no están incluidos), y se utilizan dos list comprenhension9 para encapsular todos los datos en las listas x e y.

Otra posibilidad es generar dos vectores de diez valores comprendidos entre –100 y 100, con una forma (1,10) (1 fila y 10 columnas); esto implica que son dos vectores de tipo fila con diez valores.

Se puede comprobar, que en este segundo caso también hemos fijado la semilla para obtener los mismos valores. Cuando utilicemos el módulo deap para definir nuestros algoritmos genéticos, siempre tendremos que utilizar funciones para generar soluciones aleatorias. Dichas soluciones aleatorias serán nuestra población inicial, es decir, el punto de partida de nuestro algoritmo genético. Además, dichas soluciones deben ser válidas. En nuestro ejemplo, una solución sería no válida si alguna de las variables independientes se saliera de los rangos establecidos, los cuales están comprendidos entre –100 y 100. Es muy común en los problemas de optimización tener restricciones en las variables, por lo que normalmente siempre tendremos que comprobar la validez de nuestras soluciones. Veremos cómo se hace eso más adelante.

Volviendo a nuestro problema ejemplo, la idea es encontrar los valores que maximizan la función

Tabla 1.2. Soluciones óptimas a nuestro problema ejemplo.

Es sencillo ver que nuestro problema tiene las cuatro posibles soluciones óptimas, mostradas en la Tabla 1.2. El objetivo en este primer capítulo introductorio, es que nuestro algoritmo genético encuentre alguna o algunas de las soluciones a nuestro problema de manera eficiente, es decir, en el menor número de iteraciones posibles. Antes de continuar, es importante decir que este problema de optimización se podría resolver sin necesidad de un algoritmo genético; cualquier algoritmo de optimización basado en gradiente de los que vienen incluidos en el módulo optimize de scipy10 nos valdría para obtener una solución a nuestro problema de manera sencilla, ya que la función de nuestro ejemplo es convexa11. No obstante, siempre es adecuado empezar con un problema de optimización sencillo, en el que sepamos la solución para saber que estamos haciendo las cosas bien. Aprovechamos este momento para señalar una idea muy importante en cuanto a la aplicación de los algoritmos genéticos:

Este comentario puede desanimarnos, ya que si no tenemos la certeza de que vamos a obtener la solución óptima ¿qué utilidad tiene utilizar un algoritmo genético? Pues la utilidad es elevada, ya que utilizando un algoritmo genético tendremos una solución bastante buena y en un tiempo razonable o que al menos podremos acotar. Más adelante veremos que ambas características son importantes en problemas de optimización complejos. En definitiva, con un algoritmo genético siempre vamos a terminar con una solución al problema que será mejor que realizar una búsqueda totalmente aleatoria.

Volvamos a nuestro ejemplo. Antes de entrar en la programación del algoritmo, vamos a visualizar el espacio de búsqueda en el que tendrá que trabajar el algoritmo genético. El espacio de búsqueda o landscape es el conjunto de valores que pueden tomar las variables independientes y se conoce como el dominio de la función. En nuestro ejemplo, el espacio de búsqueda es infinito ya que estamos trabajando con variables continuas. La Figura 1.3 representa la función de optimización y, por lo tanto, el espacio de búsqueda. Las cuatro soluciones óptimas al problema (ver Tabla 1.2) corresponden a los cuatro picos de la superficie.

Figura 1.3. Representación de la función de optimización.

A continuación, mostramos el código que se ha utilizado para obtener la Figura 1.3:

En este script, la función de optimización se ha definido como funcion_prueba(x) y la variable de entrada corresponde a la lista o vector de variables independientes x e y. Así, la variable x corresponde a x[0] y la variable y corresponde a x[1].

Llegados a este punto, podemos empezar a codificar nuestro algoritmo genético utilizando el módulo deap. El procedimiento va a ser tipo receta, de forma que hay una serie de pasos que siempre tenemos que dar y que solo se cambiarán dependiendo de las características de nuestro problema de optimización; por ejemplo, dependiendo del tipo de variables independientes que tengamos (continuas, discretas, reales, binarias, etc.). Para utilizar el módulo deap es importante tener ciertas nociones de programación orientada a objetos, ya que se utiliza la propiedad de herencia entre clases. El diseño de algoritmos genéticos con deap puede parecer un poco complejo al principio, pero veremos cómo al final el procedimiento es bastante repetitivo. A continuación, vamos a dividir el proceso en varias partes, para poder explicar cada uno de los pasos con el mayor detalle posible. Finalmente, se mostrará el código completo que solo incluye lo estrictamente necesario para ejecutar el algoritmo genético.

1.3 Definición del problema y generación de la población inicial

En esta sección se definen aspectos muy relevantes del algoritmo genético, como son: (i) el tipo de problema de optimización (maximizar o minimizar), (ii) el tipo de objeto de Python o plantilla que va a contener el individuo (lista, vector, etc.) y sus atributos, y (iii) el objeto caja de herramientas o toolbox que contendrá, mediante registro, un conjunto de funciones utilizadas por el algoritmo durante su ejecución. Entre los tipos de funciones que se registran en la caja de herramientas, destacan las siguientes: a) las funciones para crear los individuos de forma aleatoria, b) la función para crear la población, c) los operadores genéticos (selección, cruce y mutación) y d) la función objetivo. En esta sección, trataremos el registro de las funciones para a) y b), dejando para la siguiente sección las funciones de c) y d).

A continuación, mostramos un script que incluye las sentencias para realizar las operaciones i), ii) y iii) mencionadas anteriormente. A lo largo de la sección, iremos explicando cada una de las sentencias de manera individual.

En conveniente aclarar que, aunque en este script se han importado las librerías que hacen falta, en el resto de los fragmentos de código del capítulo no se incluirán dichas líneas de código (salvo la sección de código completo), aunque