Técnicas de Inteligencia artificial explicable basadas en una integración de lógica simbólica y no-simbólica

Abstract

La explicabilidad es un aspecto fundamental en el campo del aprendizaje automático, en particular para garantizar la transparencia y la confianza en los procesos de toma de decisiones. A medida que aumenta la complejidad de los modelos de aprendizaje automático, la integración de enfoques neuronales y simbólicos ha surgido como una solución prometedora al problema de la explicabilidad. En este contexto, se ha demostrado que la utilización de métodos de búsqueda para la extracción de reglas en redes neuronales profundas entrenadas es eficaz. Esto implica el examen de los valores de pesos y sesgos generados por la red, generalmente mediante el cálculo de la correlación entre los vectores de pesos y las salidas. La hipótesis desarrollada en este artículo establece que al incorporar la similitud coseno en este proceso, el espacio de búsqueda se puede reducir de manera eficiente para identificar la ruta crítica que conecta las entradas con los resultados finales. Además, para proporcionar una comprensión más completa e interpretable del proceso de toma de decisiones, este trabajo propone la integración de la lógica de primer orden (FOL) en el proceso de extracción de reglas. Al combinar similitud coseno y FOL, se diseñó e implementó un algoritmo innovador que es capaz de extraer y explicar los patrones de reglas aprendidos por una red neuronal entrenada feedforward. El algoritmo se probó en tres casos de uso y demostró su eficacia a la hora de proporcionar información sobre el comportamiento del modelo.