Detailansicht
Adversarial examples in machine learning
training and certified robustness
Jonas Schuhmann
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Mathematik
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Mathematik
Betreuer*in
Philipp Christian Petersen
DOI
10.25365/thesis.77348
URN
urn:nbn:at:at-ubw:1-27264.52633.633988-2
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Diese Arbeit untersucht die mathematischen Grundlagen zur Generierung sogenannter Adversarial Examples und entwickelt Methoden zum Schutz von Modellen des maschinellen Lernens gegen solche gezielten Störungen. Das Konzept, bekannt als Adversarial Risk, beschreibt die Robustheit eines Modells als Min-Max-Optimierungsproblem. Adversarial Training wird als primäre Abwehrstrategie analysiert und experimentell bewertet. Um die Robustheit weiter zu verbessern, wird eine Schranke für das Adversarial Risk eingeführt. Basierend auf diesen theoretischen Erkenntnissen wird die TRADES-Methode als eine optimierte Variante des Adversarial Trainings vorgestellt. Darüber hinaus wird eine neue Klasse von Adversarial Examples eingeführt, die als Regular Adversarial Examples bezeichnet wird. Es wird ein Algorithmus entwickelt und experimentell getestet, der die Abwesenheit dieser Regular Adversarial Examples innerhalb eines bestimmten Störbereichs für neuronale Netzwerke bestätigt. Die Ergebnisse zeigen, dass dieser Ansatz moderate Robustheitsgarantien bietet, insbesondere für einfachere Netzwerkarchitekturen.
Abstract
(Englisch)
This work explores the mathematical foundations for generating adversarial examples and develops methods to safeguard machine learning models against such targeted perturbations. Central to this is the concept of adversarial risk, which allows the robustness of a model to be formulated as a Min-Max problem. Adversarial training is analyzed and experimentally evaluated as the primary defense strategy. To further enhance robustness, a bound for adversarial risk is introduced. Based on these theoretical insights, the TRADES method is presented as an optimized variant of adversarial training. Additionally, we introduce a new class of adversarial examples, referred to as regular adversarial examples. We also develop and experimentally test an algorithm designed to certify the absence of these regular adversarial examples within a specified perturbation range for neural networks. The results demonstrate that this approach provides moderate robustness guarantees, particularly for simpler network architectures.
Schlagwörter
Schlagwörter
(Deutsch)
Adversarial Training Adversarial Robustness Machine Learning Certified Robustness Adversarial Examples
Schlagwörter
(Englisch)
Adversarial Training Adversarial Robustness Machine Learning Certified Robustness Adversarial Examples
Autor*innen
Jonas Schuhmann
Haupttitel (Englisch)
Adversarial examples in machine learning
Hauptuntertitel (Englisch)
training and certified robustness
Publikationsjahr
2024
Umfangsangabe
vii, 60 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Philipp Christian Petersen
Klassifikation
31 Mathematik > 31.80 Angewandte Mathematik
AC Nummer
AC17394972
Utheses ID
73330
Studienkennzahl
UA | 066 | 821 | |