Verificación de estructura de redes neuronales profundas en tiempo de compilación: Proyecto TensorSafe

Abstract

Este documento presenta TensorSafe, una biblioteca desarrollada en Haskell que permite la definición y validación estructural de arquitecturas de redes neuronales. En la actualidad, el proceso de desarrollo de modelos de aprendizaje profundo ha sido ampliamente simplificado debido a la disponibilidad de herramientas en la industria. Sin embargo, la mayoría de estas herramientas no provee ningún control de consistencia estructural en tiempo de compilación, haciendo que los desarrolladores tengan que lidiar con errores inesperados en tiempo de ejecución. En particular, la validación estructural de redes neuronales profundas en tiempo de compilación es una tarea compleja, la cual involucra la validación matemática de todas las operaciones que el modelo de aprendizaje profundo va a realizar. Este chequeo estructural requiere un uso avanzado de los sistemas de tipos para la manipulación de tipos abstractos capaces de modelar la construcci ón de redes neuronales. El uso del paradigma de programación funcional y la programación a nivel de tipos que provee el lenguaje Haskell fueron de particular importancia al momento del desarrollo de Tensor-Safe. La evaluación experimental realizada muestra que usando TensorSafe es posible la construcción y validación de modelos de aprendizaje profundo bien conocidos, como lo son AlexNet o ResNet50.