Aprendizaje estadístico supervisado basado en núcleos

Abstract

Este trabajo explora varias técnicas de aprendizaje automático y sus elementos subyacentes de la teoría del aprendizaje estadístico, con un énfasis específico en el aprendizaje supervisado basado en kernels. La investigación se centra en un problema de regresión aplicado a datos quimiométricos, logrando resultados competitivos con publicaciones recientes en el campo. Se explora la transición de la minimización del riesgo empírico (ERM) a métodos de regularización como las máquinas de vectores de soporte (SVM) y los mínimos cuadrados regularizados kernel (KRLS). En una aplicación práctica, la investigación aplica diferentes técnicas de aprendizaje automático a un conjunto de datos proporcionado por un laboratorio en Montevideo, con el objetivo de predecir los valores de los componentes químicos a partir de datos de espectroscopia de infrarrojo cercano (NIRS). El objetivo es desarrollar un sistema capaz de predecir automáticamente valores químicos basados en datos NIRS, con un coeficiente de determinación objetivo (R²) de 0,92 establecido por expertos de campo que proporcionaron los datos. Los resultados muestran que al eliminar el ruido y reducir la dimensionalidad mediante coeficientes wavelet, SVM logra valores de R² que superan el objetivo.

This paper explores various machine learning techniques and their underlying statistical learning theory elements, with a specific emphasis on kernel-based supervised learning. The research focuses on a regression problem applied to chemometric data, achieving results competitive with recent publications in the eld. It explores the transition from Empirical Risk Minimization (ERM) to regularization methods like Support Vector Machines (SVM) and Kernel Regularized Least Squares (KRLS). In a practical application, the research applies diferent machine learning techniques to a dataset provided by a laboratory in Montevideo, aiming to predict chemical component values from Near-Infrared Spectroscopy (NIRS) data. The goal is to develop a system capable of automatically predicting chemical values based on NIRS data, with a target coefficient of determination (R²) of 0.92 set by field experts. The results show that by eliminating noise and reducing dimensionality using wavelet coefficients, SVM achieves R² values exceeding the target for both training and test data.