Detailansicht
Towards enhanced interpretability in generative flow networks with deterministic-heuristic guidance regularisation
Piotr Stanisław Fic
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Informatik
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Data Science
Betreuer*in
Sebastian Tschiatschek
DOI
10.25365/thesis.80185
URN
urn:nbn:at:at-ubw:1-21706.37352.368331-8
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Das Generative Flow Network (GFN) ist ein leistungsstarkes Modell zur sequenziellen Erzeugung vielfältiger, hochwertiger Stichproben. GFN hat in verschiedenen Bereichen vielversprechende Ergebnisse gezeigt, darunter Moleküldesign und kombinatorische Optimierung. Seine Architektur basiert jedoch auf einem Deep-Learning-Backbone, wodurch seine Sampling-Strategie schwer zu interpretieren ist, was ihre Anwendung in realen und sicherheitskritischen Szenarien potenziell einschränken kann. Diese Arbeit zielt darauf ab, die Interpretierbarkeit von GFN zu verbessern. Zu diesem Zweck wird ein spezieller Regularisierungsmechanismus eingeführt, der die GFN-Sampling-Strategie in Richtung menschlich nachvollziehbarer Heuristiken lenkt, ohne die Verlustfunktion des GFN zu verändern. Die Methode erweitert den Trainingsprozess, indem ein Teil heuristikgenerierter Trajektorien in die Trainingsdaten eingespeist und ihre Belohnungen verstärkt werden. Die Stärke der Regularisierung ist durch zwei Hyperparameter einstellbar: den Anteil der einzuspeisenden Trajektorien und den Verstärkungsfaktor der Belohnung. Zur Bewertung der Wirkung und Effektivität der Methode werden zwei aufgabenneutrale Metriken vorgeschlagen: das Regularisierungsverhältnis (Übereinstimmung der Aktionen mit der Heuristik) und die Lösungsüberschneidung (Überlappung der Endlösungen). Experimente an drei NP-schweren Graphproblemen (Maximum Independent Set, Minimum Dominating Set und Maximum Cut) mit einem auf einem Graph-Isomorphism-Network basierenden GFN zeigen systematische Muster, die die Interpretierbarkeit verbessern: hohe Übereinstimmung mit der Heuristik in frühen Phasen, gefolgt von Erkundung in mittleren Trajektorienabschnitten und häufige Rückkehr zur Heuristik in späten Phasen. Das regularisierte GFN kann Lösungen erzeugen, die nicht nur besser interpretierbar sind, sondern in einzelnen Instanzen auch gelegentlich die Leistung des ursprünglichen GFNs übertreffen. Insgesamt bietet die vorgeschlagene Methode eine Möglichkeit, den Kompromiss zwischen Übereinstimmung mit der Heuristik und Exploration zu steuern, wodurch die Transparenz und Interpretierbarkeit des Generationsprozesses verbessert werden, während das ursprüngliche Trainingsziel des GFNs erhalten bleibt.
Abstract
(Englisch)
Generative Flow Network (GFN) is a powerful model for generating diverse, high-reward samples in a sequential construction process. GFN has shown promising results in various domains, including molecule design and combinatorial optimisation. However, its architecture relies on a Deep Learning backbone, making its sampling policy difficult to interpret, potentially limiting its adoption in real-world and high-stakes applications. This thesis aims to improve the interpretability of GFN. For this purpose, it introduces a dedicated regularisation mechanism to steer the GFN sampling policy toward human-understandable heuristics without modifying the GFN loss function. The method extends the training process by injecting a fraction of heuristic-generated trajectories into the training data and boosting their rewards. The regularisation strength is adjustable by two hyperparameters: the fraction of trajectories to inject and the reward boost factor. To evaluate the method's impact and effectiveness, two task-agnostic metrics are proposed: the Regularisation Ratio (action agreement with the heuristic) and Solution Intersection (terminal solution overlap). Experiments conducted on three NP-hard graph problems (Maximum Independent Set, Minimum Dominating Set, and Maximum Cut) with a GFN based on a Graph Isomorphism Network reveal systematic patterns that enhance interpretability: high agreement with the heuristic in early stages, followed by mid-trajectory exploration, and frequent late-stage re-alignment.The regularised GFN can generate solutions that are not only more interpretable, but also occasionally exceed the performance of the canonical GFN on individual instances. Overall, the proposed method provides a way to control the trade-off between agreement with the heuristic and exploration, enhancing the transparency and interpretability of the generation process, while maintaining the GFN's original training objective.
Schlagwörter
Schlagwörter
(Deutsch)
Generative-Flow-Netzwerke Tiefes Lernen Verstärkendes Lernen Graph-Neuronale Netze Probabilistische Modellierung Interpretierbares Maschinelles Lernen Erklärbare KI Graphoptimierungsprobleme
Schlagwörter
(Englisch)
Generative Flow Networks Deep Learning Reinforcement Learning Graph Neural Networks Probabilistic Modeling Interpretability in Machine Learning Explainable AI Graph Optimization Problems
Autor*innen
Piotr Stanisław Fic
Haupttitel (Englisch)
Towards enhanced interpretability in generative flow networks with deterministic-heuristic guidance regularisation
Paralleltitel (Deutsch)
Mehr Interpretierbarkeit in Generative-Flow-Netzwerken durch deterministisch-heuristische Guidance-Regularisierung
Publikationsjahr
2025
Umfangsangabe
xiii, 56 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Sebastian Tschiatschek
Klassifikation
54 Informatik > 54.72 Künstliche Intelligenz
AC Nummer
AC17767532
Utheses ID
78887
Studienkennzahl
UA | 066 | 645 | |