dc.contributor.advisor | Gorria Corres, Carlos ![ORCID](/themes/Mirage2//images/orcid_16x16.png) | |
dc.contributor.author | García Molina, Alberto | |
dc.date.accessioned | 2020-11-16T15:04:43Z | |
dc.date.available | 2020-11-16T15:04:43Z | |
dc.date.issued | 2021-11-13 | |
dc.identifier.uri | http://hdl.handle.net/10810/47985 | |
dc.description.abstract | [EN]Artificial neural networks are parametric models, generally adjusted to solve regression and classification problem. For a long time, a question has laid around regarding the possibility of using these types of models to approximate the solutions of initial and boundary value problems, as a means for numerical integration. Recent improvements in deep-learning have made this approach much attainable, and integration methods based on training (fitting) artificial neural networks have begin to spring, motivated mostly by their mesh-free nature and scalability to high dimensions. In this work, we go all the way from the most basic elements, such as the definition of artificial neural networks and well-posedness of the problems, to solving several linear and quasi-linear PDEs using this approach. Throughout this work we explain general theory concerning artificial neural networks, including topics such as vanishing gradients, non-convex optimization or regularization, and we adapt them to better suite the initial and boundary value problems nature. Some of the original contributions in this work include: an analysis of the vanishing gradient problem with respect to the input derivatives, a custom regularization technique based on the network’s parameters derivatives, and a method to rescale the subgradients of the multi-objective of the loss function used to optimize the network. | es_ES |
dc.description.abstract | [ES]Las redes neuronales son modelos paramétricos generalmente usados para resolver problemas de regresiones y clasificación. Durante bastante tiempo ha rondado la pregunta de si es posible usar este tipo de modelos para aproximar soluciones de problemas de valores iniciales y de contorno, como un medio de integración numérica. Los cambios recientes en deep-learning han hecho este enfoque más viable, y métodos basados en entrenar (ajustar) redes neuronales han empezado a surgir motivados por su no necesidad de un mallado y su buena escalabilidad a altas dimensiones. En este trabajo, vamos desde los elementos más básicos, como la definición de una red neuronal o la buena definición de los problemas, hasta ser capaces de resolver diversas EDPs lineales y casi-lineales. A lo largo del trabajo explicamos la teoría general relacionada con redes neuronales, que incluyen tópicos como los problemas de desvanecimiento de gradientes (vanishing gradient), optimización no-convexa y técnicas de regularización, y los adaptamos a la naturaleza de los problemas de valores iniciales y de contorno. Algunas de las contribuciones originales de este trabajo incluyen: un análisis del desvanecimiento de gradientes con respecto a las variables de entrada, una técnica de regularización customizada basada en las derivadas de los parámetros de la red neuronal, y un método para rescalar los subgradientes de la función de coste multi-objectivo usada para optimizar la red neuronal. | es_ES |
dc.language.iso | eng | es_ES |
dc.rights | info:eu-repo/semantics/openAccess | es_ES |
dc.rights.uri | http://creativecommons.org/licenses/by-nc-sa/3.0/es/ | * |
dc.subject | artificial neural networks | es_ES |
dc.subject | differential equations | es_ES |
dc.subject | numerical integration | es_ES |
dc.title | On the use of Neural Networks to solve Differential Equations | es_ES |
dc.type | info:eu-repo/semantics/masterThesis | es_ES |
dc.rights.holder | Atribución-NoComercial-CompartirIgual 3.0 España | * |
dc.departamentoes | Matemática Aplicada, Estadística e Investigación Operativa | es_ES |
dc.departamentoeu | Matematika aplikatua eta estatistika | es_ES |