Detailansicht
Minimax problems and clustering for regression via neural networks
Daniel <<de>> Vicente Jiang
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Mathematik
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Mathematik
Betreuer*in
Arnold Neumaier
DOI
10.25365/thesis.73114
URN
urn:nbn:at:at-ubw:1-11365.28287.374996-1
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Jede stetige Funktion kann durch ein künstliches neuronales Netzwerk in einer kompakten Menge beliebig gut approximiert werden. Deswegen haben wir in dieser Thesis versucht, die Poisson-Gleichung numerisch in zwei Dimensionen mithilfe von künstlichen neuronalen Netzen zu lösen. In der Literatur bestand der neuronale Netzwerk Ansatz aus Minimierung der quadratischen Verlustfunktion über den Trainingset mit dem Gradientenverfahren. Motiviert durch die robuste Optimierung haben wir einen anderen Ansatz verwendet, der das Minimierungsproblem in ein Minimaxproblem umwandelt. In jeder Iteration wurde eine Folge von angenäherten Minimaxproblemen gelöst. Wir haben Punkte gesucht, bei denen die Annäherung am schlechtesten war und diese mithilfe des k-Means-Algorithmuses geclustered. Außerdem haben wir weitere Punkte in einer geeigneten Umgebung der Centroide zufällig ausgewählt, um das nächste Trainingsset zu finden. Die Lösung des Minimaxproblems lieferte die Gewichte eines neuronalen Netzwerkes, das die exakte Lösung der Poisson-Gleichung mit einem Fehler von zirka 10%.
Abstract
(Englisch)
Artificial neural networks can approximate any continuous function over a compact set arbitrarily well. Therefore, in this thesis we have attempted to numerically solve the Poisson equation in two dimensions using artificial neural networks. In the literature, the neural network approach has always consisted of minimizing the quadratic loss function over the training set using gradient descent. Motivated by robust optimization, we propose a new approach which transforms the minimization into a minimax problem. At each iteration, a sequence of approximate minimax problems is solved. We examined where the approximation failed the most and clustered those values using the k-means algorithm. To select the new training set we randomly sampled in a neighbourhood of the centroids obtained by k-means. The final solution of the minimax problem yielded the weights of a neural network that approximated the exact solution of the Poisson equation with an error of around 10%.
Schlagwörter
Schlagwörter
(Deutsch)
machinelles Lernen Clustering k-means Regression neuronale Netzwerke robuste Optimierung Minimax-Probleme
Schlagwörter
(Englisch)
machine learning clustering k-means regression neural networks robust optimization minimax problems
Autor*innen
Daniel <<de>> Vicente Jiang
Haupttitel (Englisch)
Minimax problems and clustering for regression via neural networks
Paralleltitel (Deutsch)
Minimax Probleme und Clustering für Regression mit neuronalen Netzwerken
Publikationsjahr
2022
Umfangsangabe
60 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Arnold Neumaier
Klassifikation
31 Mathematik > 31.80 Angewandte Mathematik
AC Nummer
AC16773795
Utheses ID
65577
Studienkennzahl
UA | 066 | 821 | |