Extracción de reglas de redes neuronales feedforward entrenadas con lógica de primer orden

Abstract

La necesidad de integración neural-simbólica se hace evidente a medida que se abordan problemas más complejos, y que van más allá de tareas de dominio limitadas como lo es la clasificación. Los métodos de búsqueda para la extracción de reglas de las redes neuronales funcionan enviando combinaciones de datos de entrada que activan un conjunto de neuronas. Ordenando adecuadamente los pesos de entrada de una neurona, es posible acotar el espacio de búsqueda. Con base en esta observación, este trabajo tiene por objetivo presentar un método para extraer el patrón de reglas aprendido por una red neuronal entrenada feedforward, analizar sus propiedades y explicar estos patrones a través del uso de lógica de primer orden (FOL).

The need for neural-symbolic integration becomes evident as more complex problems are addressed, and they go beyond limited domain tasks such as classification. Search methods for extracting rules from neural networks work by sending input data combinations that activate a set of neurons. By properly ordering the input weights of a neuron, it is possible to narrow down the search space. Based on this observation, this work aims to present a method for extracting the pattern of rules learned by a trained feedforward neural network, analyzing its properties, and explaining these patterns through the use of first-order logic (FOL).