Contributions to automatic learning of kernel functions

Abstract

Muchos algoritmos de aprendizaje automático se basan en funciones de kernel para resolverlas tareas propuestas. Entre estos algoritmos podemos encontrar métodos de kernel, como lasMáquinas de vectores de soporte (SVMs), o métodos de inferencia bayesianos, como losProcesos de Gauss (GPs). Sin embargo, la validez de estos algoritmos para resolver problemasdepende en gran medida de la función del kernel, y no hay ninguna función del kernel que seaóptima para todos los dominios de aplicación. La elección del kernel requiere conocimiento delalgoritmo y del dominio de aplicación y hay un gran interés en automatizar este proceso.En esta tesis estudiamos el uso de la programación genética para aprender kernels tanto paraSVMs como para GPs. En primer lugar, describimos el análisis realizado en el campo de las SVM,donde hemos estudiado las diferentes interacciones entre los componentes de las SVM durantela evolución de los kernels, y proporcionamos algunas pautas para mejorar el proceso deaprendizaje del kernel. A continuación, proponemos un método basado en expresionesmatemáticas básicas para aprender kernels para GPs a través de la programación genética, yprobamos la validez de este método en varias aplicaciones, como la predicción de seriestemporales o tareas de procesamiento de lenguaje natural.