Ant MinerAn Ant Colony Algorithm for Classification Rule Discovery

Rafael S. Parpinelli - Heitor S. Lopes - Alex A. Freitas

Algoritmo de Colonia de Hormigas para el Descubrimiento de Reglas de Clasificación

Jorge Picoaga – Diego Cesario

Noviembre 15 de 2013

Agenda

• Descripción biológica sobre la hormiga

• Introducción a la Colonia de Hormigas

• Feromona

• Colonia de Hormigas Real y Artificial

• Ant Miner

• Ant Miner vs. Clasificador C4.5

• Papers más recientes

• Aplicaciones

• Software GUI Ant Miner

• Software Ant Sim

• Conclusiones

Descripción Biológica de la HormigaFamilia de los FormícidosHimenóptero (200 M especies)

Insectos Sociales y Colonia de Hormigas

• Colonia de hormigas, avejas, avispas y termitas

• Integradas desde docenas a millones de hormigas

• Agenda de tareas independiente

• Pueden trabajar en comunidad cooperando una con otra, sin ningún tipo de supervisión o control

• Este comportamiento se denomina “inteligencia colectiva” (swarm intelligence) de sistemas descentralizados y auto organizados, sean naturales o artificiales

Claves del Éxito de la Colonia de Hormigas

Organización SocialDivisión del Trabajo

1

Resolución de problemas complejos

2

Capacidad de Modificar Hábitats

3Capacidad de Defensa

4

Comunicación entre sus individuos

5

Aprovechamiento de Recursos

6

e/1.000 y 10.000billones

5 continentes Cretácico110-130 ma

12.000 a 21.000especies

Desde semanashasta 15 años

Entre el 15 y 20%De la biomasa

1.4 MM de hormigaspor cada ser humano

Presenciaen el

Planeta

Población MundialActual

Origen Especies

Esperanza de VidaNatural

% Biomasa Animales Terrestres

Hormigas y

Humanos

Algunos números sobre las hormigas…

29 añosEl máximo de longevidad de una hormiga

reina en una colonia de laboratorio

10.000.000.000.000.000

Colonia de Hormigas y Clasificación

• La tarea de clasificación consiste en asociar cada caso (objeto o registro) a una clase predefinida

• Se basa en los valores de atributos del cada caso (atributos predictivos)

• Reglas de la forma IF <condiciones> THEN <clase>

• Un sistema de colonia de hormigas (ACS) involucra simples agentes (hormigas) que cooperan una con otra para lograr un comportamiento unificado del sistema (como un todo) generando un sistema robusto capaz de encontrar soluciones de alta calidad en un gran espacio de búsqueda…

• …simulando el comportamiento natural de las hormigas y desarrollando mecanismos de cooperación y aprendizaje

Cómo lo hacen?

• Las hormigas se comunican una con otra a través de la feromona (pheromone) que dejan en los senderos

• La feromona es una sustancia química que van dejando en el suelo, construyendo la ruta a seguir

• También la utilizan para hacer un llamado de alerta a otras hormigas

• El comportamiento colectivo implica si un camino fue utilizado por muchas hormigas, es el camino más atractivo a seguir

• Loop de feedback positivo: la probabilidad que una hormiga elija un camino aumenta de acuerdo a la cantidad de hormigas que ya pasaron por allí

Ejemplo Gráfico

El camino más corto hace que se acumule más feromonaen menor tiempo; las hormigas comienzan a elegir esa ruta

• http://www.youtube.com/watch?v=GhGno2BIts0

Planet Ant – Life inside the Colony

Sistema de Colonia de HormigasReal y Artificial

Real Artificial (extras)

• Prefieren caminos con mayor cantidad de feromona

• Los caminos más cortos tienden a tener altas tasas de crecimiento en la cantidad de feromona

• Utilizan un sistema de comunicación indirecto, basado en la cantidad de feromona en cada camino

• Hormigas artificiales tienen memoria

• No son completamente ciegas• Viven en un ambiente donde el

tiempo es discreto

Caminos con mayor feromona equivalen a Caminos más cortos

Para construir un ACS se debe definir:

• Representación apropiada del problema

• Regla de transición probabilística

• Una función heurística que mida la calidad

• Una regla que especifique cómo actualizar la cantidad de feromona

• Un método que valide construcción de soluciones válidas

Ant Miner / Hormiga Minera

• Introducción

• Construcción de Reglas

• Función Heurística

• Poda de Reglas

• Actualización de feromona

• Parámetros del sistema

• Resultados del Experimento (comparación con otros algoritmos)

• Versiones mejoradas de Ant Miner

Visión General

• Objetivo principal: extracción de reglas de clasificación y comparación con otros algoritmos

• Solución sobre Atributos Categóricos

• Regla inicial

• Regla parcial

• La elección del término a agregar depende de una función heurística que depende del problema y de la cantidad de feromona asociada con ese término

• La hormiga va agregando términos (uno por vez) hasta que no sea posible seguir construyendo la regla. Esto puede deberse por haber alcanzado la cantidad mínima de casos definida por el usuario (Min_cases_per_rule) o cuando todos los atributos fueron utilizados por la hormiga

Visión General (continuación)

• Cuando se alcanza uno de los dos criterios de parada, la hormiga construye una regla

• En principio ya podríamos usarla para clasificación, aunque en la práctica se realiza una poda de la misma para eliminar términos irrelevantes

• Cuando una hormiga completa su regla y la cantidad de feromona fue actualizada en cada ruta, otra hormiga comienza la construcción de su propia regla, usando las nuevas cantidades de feromona para guiar su búsqueda

• El proceso se repite una cantidad predefinida de veces (No_of_ants)

• Este proceso puede interrumpirse si la regla se repite con una anterior (No_Rules_Converg – 1 ants), en un ACS real equivale al mismo camino hecho por otra hormiga

Visión General (continuación)

• Todos los casos cubiertos correctamente por la regla creada, son quitados del conjunto de entrenamiento, y se inicia otra iteración sobre el conjunto reducido

• El proceso se repite hasta que los casos no cubiertos estén por debajo de un umbral definido previamente (Max_uncovered_cases)

• Las reglas descubiertas se almacenan en orden de descubrimiento

• Regla por defecto (default rule) con el antecedente vacío, y el consecuente (clase) correspondiente a la clase mayoritaria de los casos no cubiertos por las reglas descubiertas

Construcción de Reglas(eta) Valor de la partición (termij) evaluado conla función heurística particular del dominio

(tau) Feromona disponible en el momento t, en laposición (i,j) del camino iniciado por la hormiga

(a) es la cantidad total de atributos(b) es la cantidad de valores en el dominio del atributo (i)

Atributos no utilizados aún por la hormigaProbabilidadincremental

• Información heurística: preferencia del arco. Depende del problema. Las hormigas no la modifican durante la ejecución

• Información memorística: medida de la “deseabilidad” del arco, representada por la cantidad de feromona depositada en él. Se modifica durante la ejecución del algoritmo

Función HeurísticaNúmero de clases

Cantidad de casos en la particiónTij cuando el Atributoi = Vij

Cantidad de casos en la particiónTij con la clase W

Función Heurística (cont.)

• En los ACO convencionales el valor heurístico es generalmente usado en conjunto con el valor de la feromona para decidir los cambios de estado que se harán (por lo tanto el valor heurístico depende del valor de la feromona)

• En Ant-Miner el valor heurístico es calculado para obtener la calidad de la medida información del término a ser agregado a la regla

Poda de Reglas

• Incrementa el poder predictivo de la regla

• Evita el over-fitting sobre el conjunto de entrenamiento

• Mejora la simplicidad de la regla (más entendible por el usuario)

• La poda es ejecutada por cada hormiga cuando completa la construcción de la misma

• Básicamente se remueve en forma iterativa un término a la vez de la regla, mientras esta mejore su calidad

Poda de Reglas (continuación)

• Se comienza con la regla completa (con todos los términos)

• Luego se va quitando de a un término a la vez, y evaluando la calidad de la regla (puede significar re asignar la clase de la regla, dado que la regla podada puede tener diferente mayoría de casos de una determinada clase)

• El término que quitamos debe mejorar la calidad de la regla

• El proceso se repite, hasta que la regla tenga sólo un término o bien no haya ningún término a remover que mejore la calidad de la misma

Actualización de Feromona

• Cuando comienza el algoritmo y la primer hormiga comienza la búsqueda, todos los caminos tienen el mismo nivel de feromona

Actualización de Feromona (continuación)

• Cada vez que una hormiga termina de construir su regla, la cantidad de feromona en todas las posiciones de todos los caminos debe actualizarse

• La cantidad de feromona asociada con cada término que aparece en la regla es incrementado

• La cantidad de feromona asociada con cada término que NO aparece en la regla es reducido, correspondiendo con el fenómeno de la evaporación de feromona en las colonias de hormigas de la vida real

Actualización de Feromona (continuación)

• Aumentar la cantidad de feromona asociada a cada término concluye con el aumento de la feromona en toda la ruta (path) completada por la hormiga

• En este contexto, esto equivale a aumentar la probabilidad que el término sea escogido en un futuro por otra hormiga

• Este incremento es proporcional a la calidad de la regla construida

• La calidad de la regla (Q) se mide entre 0 y 1, cuanto más alto el valor de Q es mayor la calidad de la regla

negativospositivosTasa de aciertos Tasa de aciertos (negativos)

Actualización de Feromona (continuación)

• Para el caso de los términos no utilizados, se simula el fenómeno de evaporación a través de la normalización

• Cuando se construye una regla, sólo los términos utilizados incrementan su cantidad de feromona

• Cuando se realiza la normalización, y se divide por el total de feromona de todos los términos, el efecto logrado es que los términos no usados vean reducido su cantidad de feromona (estrategia indirecta)

Parámetros del Sistema(en este experimento)

• Cantidad de Hormigas (No_of_ants) = 300

• Cantidad Mínima de Casos por Regla (Min_cases_per_rule) = 10

• Cantidad Máxima de Casos no cubiertos en el conjunto de entrenamiento (Max_uncovered_cases) = 10

• Cantidad de reglas utilizadas para probar la convergencia de las hormigas (No_Rules_Converg) = 10

Resultados

• Conjuntos de Datos utilizados (UCI)

• Atributos continuos fueron discretizados con el algoritmo C4.5 Disc

Resultados (continuación)

• El algoritmo Ant Miner compite con la tasa de acierto del algoritmo C4.5; no obstante el desvío estándar de la hormiga minera es mayor que la del C4.5

Resultados (continuación)

• En cuanto a simplicidad de reglas, se midió la cantidad de reglas construidas por cada algoritmo y la cantidad de términos utilizados en cada una

Resultados (continuación)Dataset Tasa de

AciertoSimplicidad

ReglasSimplicidad

Términos

Breast Cancer (Ljubljana)

Breast Cancer (Wisconsin)

Tic-tac-toe

Dermatology

Hepatitis

Heart disease (Cleveland)

Mejoras del Algoritmo Ant Miner

• Ant miner 2

• Ant-Miner+

• Ant-Miner-C

• cAnt-Miner

• cAnt-Miner2

• cAnt-Miner PB

• Ant-Tree-Miner

Las variantes del algoritmo se basan en el algoritmo

presentado inicialmente Ant Miner

cAnt-Miner

• Agrega la posibilidad de trabajar con atributos continuos

• Lo que cAnt-Miner hace durante su ejecución es crear internamente intervalos discretos para este tipo de atributos.

cAnt-Miner2

• El algoritmo cAnt-Miner2 evidencia la construcción de un conjunto de reglas que no hace uso de la reutilización de patrones encontrados para identificar nuevas reglas, a partir de un conjunto de datos con atributos continuos.

• El algoritmo cAnt-Miner2 posee una exactitud de predicción levemente mayor que el algoritmo Ant-Miner, además encuentra la lista de reglas de una manera más simple sin que se incremente el tiempo de computo.

cAnt-Miner2 vs Ant-Miner

cAnt-Miner2-MDL

• Luego de CAntMiner2 hubo una modificación de dicho algoritmo a la que denominaron cAnt-Miner2-MDL donde incorporaron y aplicaron en la fase de construcción de reglas el principio de minimización de la longitud de descripción.

• Los valores de las feromonas se asocian a las aristas del grafo y no a los vertices.

cAnt-Miner PB

• Basado en Enfoque de Pitsburgh, esta variante a pesar de que sigue utilizando un enfoque de cubrimiento secuencial, cada individuo crea una lista completa de reglas en cada iteración del algoritmo en lugar de una única regla. Además, las feromonas se actualizan en base a la lista de mejores reglas candidatas de entre las creadas en la iteración.

Ant-Miner+

• Propuesto por (Martens), ha demostrado que obtiene mejores resultados de acuracy (tasa de acierto). La función de fitness es la suma de confianza mas coverage.

Usa una funcion heuristica mas dependiente de la clase y más

exacta

Ant-Miner-C

• (Baig y Shazhad) Entre sus principales características podemos destacar el empleo de una función heurística basada en el nivel de correlación entre atributos, mientras que la función de fitness es similar a la empleada en el algoritmo Ant-Miner+

Ant-Tree-Miner

• Combina estrategias de arboles de decision y ACO.

• Ant-Tree-Miner sigue un enfoque descendente que realiza una selección probabilística de los atributos que se añaden como nodos de decisión basándose en la cantidad de feromonas y la información heurística

En variantes como esta se comprueba que un algoritmo

hibrido puede dar buenos resultados

Aplicacioneshttp://iridia.ulb.ac.be/~mdorigo/ACO/aco-code/public-software.html

• AcosTSP v1.02

• AntNet v1.1

• Gui Ant Miner

• Myra

• Ant Solver

• Ant Car

La mayoría de las aplicaciones están

construidas en C y Java, y se ejecutan sobre Unix

GUI Ant-Miner

GUI Ant-Miner

+45

+900

+2.87 +0.52

Ant Sim

Conclusiones

• Ant Miner compite con respecto a la tasa de acierto predictiva en relación con C4.5

• El conjunto de reglas descubierto por Ant Miner es más chico que las descubiertas por el algoritmo C4.5

• Existen muchas variantes del Algoritmo que contemplan mejoras en los resultados sobre los mismos conjuntos de datos

• Importancia de desarrollar algoritmos híbridos que incorporen las ventajas de diferentes técnicas (ej.: operadores genéticos para mejorar las soluciones obtenidas por las colonias de hormigas)

Preguntas?

Referencias

• “An Ant Colony Algorithm for Classificacion Rule Discovery”. Parpinelli/Lopes/Freitas. 2002.

• “Ant Colony Algorithms for Data Classification”. Parpinelli/Lopes/Freitas. 2009.

• “Improving the Interpretability of Classification Rules Discovered by an Ant Colony Algorithm”. Otero/Freitas. 2013

• “A Novel Method for Extracting Classification Rules based on Ant-Miner”. Babak Fakhar. 2013.

• “Classification Rule Discovery with Ant Colony Optimization and Improved Quick Reduct Algorithm”. Jaganathan/Thangavel/Pethalakshmi/Karnanhttp://www.iaeng.org/IJCS/issues_v33/issue_1/IJCS_33_1_9.pdf

• Descripción biológica hormigahttp://es.wikipedia.org/wiki/Formicidae

• Video: “Planet Ant – Life inside the Colony”. BBC. http://www.youtube.com/watch?v=GhGno2BIts0

• Software Gui Ant Miner: http://sourceforge.net/projects/guiantminer/

• Software Ant Sim v1.1: http://nightlab.ch/antsim.php

• Ant Colony Optimization. Diferentes paquetes de SW público:http://iridia.ulb.ac.be/~mdorigo/ACO/aco-code/public-software.html